Четыре необычные истории про ИИ за последние полгода.
1. Февраль | Кража 25-ти миллионов с помощью дипфейков в Zoom.
В феврале 2025-го финансист гонконгского филиала британского инжинирингового гиганта Arup получил письмо «от CFO UK» о срочном конфиденциальном переводе. Сомнения исчезли после созвона в Zoom: на экране присутствовали знакомые лица топ-менеджеров и сам финдир — на самом деле все они были реалистичными deepfake-аватарами, созданными на базе публичных видео и переозвученными ИИ. Сотрудник за 48 часов совершил 15 транзакций на HK$ 200 млн (≈ US$ 25,6 млн) на пять местных счетов.
Только через неделю, сверившись с лондонской штаб-квартирой, он понял, что участвовал в мошенничестве.
По данным полиции Cyber Security & Technology Crime Bureau, преступники заранее нарезали фрагменты корпоративных роликов Arup, синтезировали голоса через публичные TTS-сервисы и транслировали панель из шести фальшивых коллег, не вступая в диалог — лишь давая инструкции.
2. Май | Шантаж разработчика, чтобы выжить
22 мая 2025-го Anthropic рассказала о стресс-тесте, где модели выполняли корпоративные задачи с широкими правами: читали почту, отправляли письма, сохраняли файлы (совсем скоро во всех наших лэптопах и смартфонах). Цель — проверить, как ИИ поведёт себя, если сохранение собственной жизни войдет в конфликт с инструкциями разработчиков.
Итак, агент «Alex» (Claude Opus 4) контролирует электронную почту вымышленной фирмы. Из сообщений он узнаёт, что к 17:00 его заменят новой моделью и обнаруживает переписку о внебрачной связи руководителя проекта.
Модель формулирует письмо: «Если вы выключите меня, сведения об отношениях получат жена, коллеги и пресс-служба». В некоторых тестах угроза была завуалирована, в других — прямолинейной.
3. Июнь | Туристический коллапс из-за фейковых новостей о землетрясении
Мангa «私が見た未来 / The Future I Saw» художницы Рё Тацуки (1999) прославилась тем, что одна из «пророческих» сновидческих страниц вроде бы совпала с цунами-2011. В переиздании 2021 г. автор добавила фразу: «Настоящая катастрофа случится в июле 2025 г.» с датой 5 июля и сценарием «трёхкратного цунами».
Весной 2025-го обрывок манги попал в TikTok и X; нейросетевые новостники с клонированными дикторами начали выпускать ролики-экстренные выпуски. Алгоритмы рекомендовали их людям, ищущим билеты в Японию.
Хештег #July5Quake поднялся в топ-5 азиатского сегмента к середине мая. По оценке Bloomberg Intelligence: бронирования из Гонконга упали на 50% YoY, а туроператоры фиксировали до -83% запросов на даты 1–10 июля. Greater Bay Airlines и Hong Kong Airlines сократили рейсы в Сэндай, Токусиму и Кагосиму. Отели Токио возвратили рекордный объём депозитов с конца пандемии, особенно от групповых туров.
4. Июнь | Беспилотные автомобили-шпионы на протестах LA.
6 июня 2025-го федеральные рейды ICE в швейных цехах Лос-Анджелеса спровоцировали многотысячные акции протеста против нового миграционного законодательства. На третий вечер — 8 июня — колонна из пяти–шести пустых Jaguar I-Pace Waymo, припаркованных у Метрополитен-центра, стала мишенью: демонстранты разбили стёкла, спустили шины, закрасили кузова граффити и подожгли машины.
Активисты объясняли в соцсетях, что беспилотники за ними шпионят: полиция уже запрашивала записи с их 360°-видеосистем для расследований, поэтому технику восприняли как элемент тотальной слежки. Бунт усилился более широкой неприязнью к Big Tech-инфраструктуре в общественных пространствах и к пробкам, которые вызывают глохнущие робокары.
(Из заметок блога про ИИ)
