24 подписчика
Пентагон планирует наводнить социальные сети фейковыми ИИ-личностями
Согласно расследованию The Intercept, Объединённое командование специальных операций США (JSOC) – секретное контртеррористическое подразделение Министерства обороны – проявило интерес к использованию искусственного интеллекта для создания фальшивых интернет-пользователей. Что примечательно, эта инициатива появляется на фоне собственных предупреждений правительства США об опасности дипфейков и ИИ-генерируемого контента, способного усугубить кризис дезинформации и привести к ещё более мутной информационной экосистеме.
В документе JSOC описывает поиск "технологий, способных генерировать убедительные онлайн-персоны для использования на платформах социальных медиа, сайтах социальных сетей и другого онлайн-контента". Планируемое решение должно включать возможности создания изображений лиц, фоновых изображений, видео и аудио. Силы специальных операций намерены использовать эту технологию для сбора информации из публичных онлайн-форумов. Другими словами, JSOC хочет предоставить своим командам специальных операций технологию для создания сложных, индивидуальных ИИ-дипфейков, способных убедить пользователей социальных сетей в своей подлинности ради сбора информации.
Стоит отметить, что разведывательный персонал уже давно присутствует на онлайн-форумах и в социальных сетях, а Пентагон имеет опыт проведения кампаний онлайн-влияния. Однако сейчас наблюдается значительное усиление фокуса Министерства обороны на использовании ИИ для расширения возможностей цифрового наблюдения и влияния.
Как сообщал The Intercept в прошлом году, Пентагон уже проявлял интерес к дипфейкам как средству улучшения операций влияния, проводимых Командованием специальных операций (SOCOM). В закупочной документации 2023 года говорилось о поиске "более всеобъемлющих, прорывных" технологий "большего масштаба" по сравнению с существующими инструментами.
В преддверии предстоящих выборов особое внимание привлекает Project 2025 – план потенциального президентства Дональда Трампа, разработанный десятками его близких союзников. Согласно глубокому расследованию Futurism, демонстрируется явный энтузиазм по поводу использования ИИ для расширения возможностей наблюдения и шпионажа.
По мере того как Пентагон стремится использовать ИИ для усиления своей неоднозначной цифровой деятельности, эксперты предупреждают, что принятие американским оборонным сектором этих технологий даст зелёный свет для подобных обманных практик странам по всему миру.
Хейди Клааф, главный научный сотрудник Института AI Now, предупреждает, что действия Пентагона "только подтолкнут другие военные структуры и противников делать то же самое". По её мнению, это приведет к формированию общества, где будет всё труднее отличить правду от вымысла, что существенно осложнит геополитическую сферу.
В статье также упоминаются другие связанные новости от того же издания:
- О случае с отцом, возмущенным "воскрешением" его убитой дочери с помощью ИИ
- Об ИИ-управляемом новостном сайте, случайно обвинившем окружного прокурора в убийстве
- О простом трюке, способном нарушить работу ведущих моделей ИИ для "рассуждений"
- О наводнении Facebook ИИ-сгенерированными изображениями разрушений от урагана Элен
Показательно, что эта новость появилась одновременно со статьёй о заявлении некоего миллиардера о том, что "граждане будут вести себя наилучшим образом" под постоянным наблюдением ИИ, что дополнительно подчеркивает растущую тенденцию к использованию искусственного интеллекта для целей наблюдения и контроля.
2 минуты
23 октября 2024