Генеративный искусственный интеллект задумывался как технология, способная изменить мир. Такие компании, как OpenAI, росли быстрее любого стартапа в истории, а CEO вроде Сэма Альтмана стали именами на слуху. Читая статьи в техно-прессе, можно подумать, что ИИ уже всё умеет — или, по крайней мере, научится вот-вот. И это было бы простительно.
Хотя в прошлом некоторые учёные предсказывали, что искусственный интеллект может устроить конец света, по состоянию на 2026 год человечеству, похоже, не о чем особо волноваться — нет никаких доказательств, что нынешняя версия ИИ способна на истинное самосознание. Но способов, которыми ИИ может всё разрушить, гораздо больше, чем просто апокалиптические пророчества о порабощении всех людей машинами или выкачке всех ресурсов Земли ради выполнения заложенных программ. Пусть эти сценарии и делают хорошие заголовки и собирают просмотры, ИИ уже сейчас вызывает (и продолжит вызывать) серьёзные проблемы, даже в своём нынешнем состоянии.
Не всё в генеративном ИИ плохо. Есть, например, спорные, но полезные способы, которыми ИИ меняет будущее медицины. Но минусов в повседневном использовании технологии так много, что даже самые большие оптимисты от ИИ должны задуматься — а стоит ли овчинка выделки. Вот как уже существующие технологии ИИ могут уничтожить мир.
Конец ответственности
Одна из сложностей быть человеком и жить в обществе — это ответственность перед окружающими. Даже самый эгоистичный из нас не может безнаказанно причинять вред другим. Вот пример. Парень едет по трассе. Он торопится в любимый магазин спорттоваров, где нереальная распродажа на удочки. Но другие водители не понимают, насколько эта распродажа крута, и едут по лимиту, что его бесит. Тогда он жмёт на газ, опасно лавируя между рядами, пока неизбежное не случается: он врезается в кого-то. Если человек в другой машине пострадал или погиб, этот нетерпеливый рыболов отвечает за свои решения — его ждут уголовные и гражданские иски.
Но что, если решения принимал не человек? Что, если аварию устроила машина — точнее, её система автопилота на генеративном ИИ? Кто тогда в ответе за трагедию? Пока что ответ очень тревожный: «никто».
Дальше — хуже. ИИ уже используют для вынесения приговоров осуждённым преступникам, позволяя судьям списывать строгость или мягкость на программы. Или представьте, если бы на Нюрнбергском процессе нацисты оправдывались тем, что просто следовали приказам… отданным ИИ. Это серьёзная проблема: с ростом использования ИИ в военных действиях, военных преступлениях некому будет отвечать, кроме компьютерных программ.
Разрушение экономики по всем фронтам
Самая громкая и отчасти реалистичная угроза генеративного ИИ — это замена миллионов обычных людей на работе. Хотя массовых увольнений, которые предсказывают некоторые, скорее всего, не случится (но те, кто потеряют работу, будут в основном женщины и нацменьшинства), ИИ может вогнать мир в рецессию или хуже, если сам провалится как индустрия. Экономика держится на карточном домике.
Крупнейшие компании мира (Amazon, Google, Meta) вбухали миллиарды долларов в генеративный ИИ. Софт — штука эфемерная (вспомните «облако»), но в уравнении есть одна деталь, требующая очень специфического и очень дорогого железа. Центры обработки данных (ЦОД), которые эти компании строят, чтобы иметь достаточно мощности для ИИ, набиты GPU — специализированными чипами, которые почти целиком продаёт одна компания, NVIDIA.
Если экономика ИИ, держащаяся на «волне» и хайпе, пошатнётся, это ударит по акциям семи крупнейших техногигантов — на них сейчас приходится 35% стоимости фондового рынка США — и утащит за собой всю остальную экономику. Даже если пострадают только эти компании, это может обнулить пенсионные счета людей, которые даже не знали, что технически владеют акциями, привязанными к успеху ИИ.
Разрушительное воздействие на экологию
Пожалуй, самая насущная угроза от генеративного ИИ в его нынешнем виде — это апокалиптически катастрофический урон окружающей среде. Человечество и раньше неважно справлялось с климатическим кризисом, но теперь даже те небольшие успехи, которых удалось добиться, откатываются назад. Согласно данным Climate Action Against Disinformation, несколько крупных технокомпаний, включая Microsoft и Google, которые раньше хвастались своей экологической политикой и целями по снижению выбросов, теперь сказали «да ну его», потому что их реальные действия показывают: приоритет для них — побрякушки генеративного ИИ, а не экологическая ответственность.
Количество воды и электричества, необходимых для работы огромных ЦОД с GPU, обеспечивающих LLM (большие языковые модели) вычислительными мощностями, при нынешних темпах роста — не устойчиво. Уже сейчас это вызывает нехватку воды в некоторых районах, и, как это часто бывает с несправедливостями жизни, больше всего страдают бедные и меньшинства. А в ближайшие годы потребуется ещё больше воды. Вдобавок ко всему, ЦОД повышают шумовое загрязнение — проблема для тех, кто живёт в паре сотен метров от них.
Один позитивный момент: местные сообщества начали бороться против строительства таких прожорливых дата-центров у себя под боком. Жители городов по всей Америке обмениваются опытом, узнают, что сработало у других, и ищут способы остановить стройку. Это уже привело к множеству бурных собраний, где представителей компаний-застройщиков встречают вопросами о вреде для сообществ и планеты.
Уничтожение понятия правды
От дипфейков до постоянных галлюцинаций — генеративный ИИ отлично умеет убеждать людей, что ложное — правда. Проблемы варьируются от бумеров во «ВКонтакте» или Телеграм, ведущихся на фейковые фото знаменитостей, до того, что многие эксперты называют концом демократии.
Дипфейк-видео или записи, где политики якобы говорят ужасные вещи, или программы, позволяющие взять любое женское лицо и сгенерировать обнажённое фото, — это уже серьёзная проблема, и люди постоянно на это ведутся. Есть очевидные признаки работы ИИ: руки на сгенерированных картинках выходят ужасно, часто с шестью пальцами. Но по мере того как подделки становятся лучше, а баги исправляют, всё больше людей будут попадаться. Особенно если это то, во что им хочется верить. Многие пользователи TikTok с удивлением узнали, что милое видео с прыгающими на батуте кроликами, ставшее вирусным, — это ИИ. И миллионы молодых, продвинутых в технологиях зрителей купились на это.
Парадокс нашего времени заключается в том, что человечество создало инструмент, который учится на наших лучших образцах — литературе, искусству, науке, — но при этом совершенно лишён человеческого здравого смысла и совести. ИИ не испытывает угрызений совести за аварию, не понимает цены воды в засушливом регионе и не знает, что такое честность.
Пока генеративный ИИ не обзаведётся собственной волей, он не уничтожит мир в огне ядерного апокалипсиса. Он сделает это куда более тихо и изощрённо: размыв грань между реальностью и вымыслом, испепелив ресурсы планеты и сделав ничтожной саму идею человеческой ответственности. И единственный способ предотвратить этот сценарий — перестать смотреть на ИИ как на магический кристалл будущего и начать регулировать его с той же строгостью, с какой мы регулируем опасные производства или ядерную энергетику. Потому что самая страшная угроза исходит не от машин, которые стали слишком умными, а от людей, которые стали слишком ленивыми, чтобы думать за себя.
- Подписывайтесь на наших друзей – канал "Занимательная наука", чтобы видеть мир глазами учёных, но без лишних сложностей! Сообщества "ЗН" в Telegram и MAКС.
- Подписывайтесь на «Мир чудес» — здесь мы исследуем самые загадочные явления нашей Вселенной! Заходите в наш Telegram или в MAКС. Присоединяйтесь, ваше мнение важно! А если хотите поддержать нас — купите нам кофе ☕. Каждая чашка помогает искать новые загадки. Или просто оставьте комментарий в VK — нам действительно важно, что вы думаете!