С тех пор, как в конце 2022 года на сцену вышел чат-бот ChatGPT от OpenAI, череда новаторских стартапов генеративного ИИ захватила мир. Сторонники технологий говорят, что эта новая волна ИИ может изменить мир так же глубоко, как это сделали Интернет и мобильные телефоны.
Но что произойдет, если ИИ больше не будет под контролем человека? Риски огромны.
Разберем 3 самых реалистичных (обойдемся без Скайнет) сценария влияния ИИ, вышедшего из под контроля.
Дезинформация и манипуляция.
На самом деле - это не будущее. Материалы, основанные на ИИ, уже влияют на общественное мнение и играют значимую роль в СМИ. Уже не раз на телевидении и в газетах показывались фото/видео созданные ИИ. Риск заключается в том, что дипфейки и дезинформация, созданные им, могут дестабилизировать общество, манипулировать людьми, создавать панические настроения, которые мы даже не осознаем, пока не станет слишком поздно.
Вооружение и саботаж инфраструктуры
Существует реальный страх, что ИИ может быть использован в военных операциях или для контроля ключевой инфраструктуры; он уже пилотирует дроны. Система ИИ могла бы, в теории, получить контроль над жизненно важными системами, такими как национальные электросети или водоснабжение. Риски здесь очевидны: неконтролируемый ИИ, отвечающий за критически важную инфраструктуру, был бы катастрофой. Дополните эту картину боевыми машинами.
Страны разрабатывают системы вооружения на основе ИИ, такие как автономные дроны, и есть опасения, что они могут в конечном итоге выйти из-под контроля человека.
Экономический кризис.
Возможность, хотя и далекая, манипулирования рынками и транзакциями с помощью ИИ также представляет значительный риск для мировой экономики. Вдобавок ко всему, быстрая автоматизация задач, особенно в таких областях, как производство и логистика, может привести к масштабному замещению рабочих мест, реальность, которую мы уже видим на горизонте.
Хотя вышедший из под контроля ИИ еще не появился, уже есть признаки того, что он может нанести вред.
А какие риски ИИ видите вы?