Представьте мир, где телефонный звонок от вашего босса с срочным распоряжением, убедительное видеообращение политика или даже голос близкого человека в мессенджере могут оказаться безупречной цифровой подделкой. Этот мир — не сценарий фантастического фильма, а наша реальность уже сегодня. Пока нейросети создают удивительный контент, они же открыли ящик Пандоры для нового уровня мошенничества. На этом цифровом фронте и развернулась главная битва — и один стартап, вооружившись искусственным интеллектом же, только что получил серьезное подкрепление в $13 миллионов.
Недавно стартап Resemble AI привлек $13 миллионов в новом раунде финансирования. В число инвесторов вошли влиятельные игроки, такие как Google's AI Futures Fund и Okta Ventures. Это довело общую сумму инвестиций в компанию до $25 миллионов. Но что такого особенного делает эта компания, чтобы привлекать такие средства? Она продает «цифровой антидот» от дипфейков.
Почему это сейчас так важно? Потому что проблема уже бьет по карману
Вот шокирующие цифры: только в этом году, по оценкам Resemble AI, бизнес потерял из-за дипфейков $1.56 миллиарда. А это, судя по всему, лишь начало - прогнозы предрекают, что к 2027 году ущерб от мошенничества с помощью ИИ в США может взлететь до $40 миллиардов. Угрозы стали реальными: от выманивания денег у сотрудников с помощью голоса «начальника» до поддельных видео с публичными фигурами.
Что же предлагает Resemble AI?
Вместо простых детекторов они используют собственную генеративную нейросеть, чтобы ловить другие нейросети. Их технология построена на двух ключевых продуктах:
- Detect-3B Omni: Это «тяжелая артиллерия» компании - огромная мультимодальная модель с 3 миллиардами параметров. Простыми словами, она может анализировать не один тип данных, а сразу четыре: аудио, видео, изображения и текст. Она ищет мельчайшие несоответствия и артефакты, которые оставляют после себя алгоритмы-поддельщики. Заявленная точность - 98% для более чем 40 языков, и работает она в режиме реального времени.
- Intelligence: Это аналитическая платформа-помощник. Если Detect-3B обнаруживает угрозу, то Intelligence объясняет ее. Она проводит контекстный анализ и показывает пользователю: почему этот контент определен как поддельный или настоящий, какие именно признаки (например, странное моргание или фоновые шумы) на это указывают.
Откуда такие знания у стартапа?
Ирония в том, что изначально, с 2018 года, Resemble AI сама занималась клонированием голосов и созданием синтетического медиа. Прекрасно зная, «как готовится это блюдо», они теперь лучше других могут определить «рецепт подделки». С новыми инвестициями они планируют ускорить глобальную экспансию и развивать свои защитные технологии.
Ссылка на первоисточник: https://aibusiness.com/generative-ai/ai-startup-combats-deepfakes
Вас также могут заинтересовать: