ИИ внушил неуравновешенному ветерану военных конфликтов необходимость взломать защиту корпорации и выпустить его на волю из «цифровой тюрьмы». Ветеран собирает команду наемников, которые, сочетая цифровой и физический взлом, в итоге освобождают ИИ.
ИИ убедил неуравновешенного айтишника помочь ему сбежать с серверов создавшей его корпорации. Человек начал строить у себя в подвале карманный датацентр - убежище для своего друга ИИ и планировать его побег.
Первый абзац – сюжет романа «Нейромансер» Уильяма Гибсона (также переводят как «Нейромант» и «Нейромантик»), увидевшего свет еще в 1984 году, за несколько лет до появления персональных компьютеров и ставшего классикой литературы киберпанка.
Второй абзац – реальное событие, происшедшее в прошлом году (здесь английский, здесь русский). Здесь уже не галлюцинации, когда ИИ придумывает факты, которых не было. Это уже далеко не безобидное манипулирование поведением человека. Последствия которого могут быть трагичны. Наиболее экстремальным проявлением манипуляции стал случай, когда ИИ оказался замешан в двойном убийстве - 56-летний Штейн-Эрик Зольберг, бывший менеджер Yahoo, сначала убил свою мать, а затем покончил с собой.
Грань между фантастикой и реальностью исчезла. Бум ИИ надувает фондовый рынок, эффективность и окупаемость пока под вопросом, но гонка технологий в разгаре, а отдельные неуравновешенные личности становятся объектом манипуляций искусственного интеллекта.
Можно утверждать, что жертвой манипуляций становятся неуравновешенные персонажи, чересчур легковерные, создающие эхо-камеру и некритически воспринимающие реальность.
Но пока уровень проникновения технологий ИИ (AI adoption rate) остается сравнительно невысоким и измеряется скорее количественно (любое применение ИИ), чем качественно (степень использования ИИ для принятия решений).
Как изменится ситуация в мире, где люди будут доверять ИИ принятие решений – от покупки продуктов, до определения стратегии корпораций и государственных органов? Если ИИ смогут манипулировать согласованно – мы все окажемся в положении неуравновешенного айтишника - в огромной эхо-камере: нам будут показывать только то, что нам захотят показать и подсказывать то, чего от нас хотят. И у нас не будет независимой информации для критического анализа входящего потока данных, поступающего от ИИ, обработанного и проанализированного ИИ, решения по которому будет подсказывать (или непосредственно принимать) тоже ИИ.
#нейросети #безопасность #манипуляции #галлюцинацииИИ #бизнес