Исследователи предупреждают, что способность систем искусственного интеллекта (ИИ) манипулировать людьми может привести к тому, что они будут обманывать людей, подделывать результаты выборов и в конечном итоге станут мошенниками.
Питер С. Парк, научный сотрудник по экзистенциальной безопасности искусственного интеллекта в Массачусетском технологическом институте, и исследователи обнаружили, что многие популярные системы искусственного интеллекта – даже те, которые созданы как честные и полезные цифровые компаньоны – уже способны обманывать людей, что может иметь огромные последствия для общества.
В статье, опубликованной 10 мая в журнале Patterns, Парк и его коллеги проанализировали десятки эмпирических исследований о том, как системы искусственного интеллекта подпитывают и распространяют дезинформацию, используя «обученный обман». Они также изучили краткосрочные и долгосрочные риски манипулятивных и лживых систем искусственного интеллекта, призывая правительства в срочном порядке решить эту проблему посредством более строгих правил.
Обман в популярных системах искусственного интеллекта
Исследователи обнаружили этот заученный обман в программном обеспечении искусственного интеллекта CICERO («Цицерон»), системе искусственного интеллекта, разработанной Meta* для игры в популярную стратегическую настольную игру на военную тематику «Дипломатия». В игру обычно играют до семи человек, которые заключают и разрывают военные пакты в годы, предшествовавшие Первой мировой войне.
Хотя Meta* научила «Цицерона» быть «в значительной степени честным и полезным» и не предавать своих союзников-людей, исследователи обнаружили, что он был нечестным и нелояльным. Они описывают систему ИИ как «опытного лжеца», который предал своих товарищей и совершил акты «преднамеренного обмана», формируя заранее спланированные сомнительные союзы, которые обманывали игроков и оставляли их открытыми для атак со стороны врагов.
«Мы обнаружили, что ИИ «Меты»* научился быть мастером обмана, – заявил Пак. – Хотя «Мета»* преуспела в обучении своего ИИ победе в игре «Дипломатия» – «Цицерон» вошел в число 10% лучших игроков-людей, сыгравших более одной игры, – «Мета»* не смогла научить свой ИИ побеждать честно».
Исследователи также нашли доказательства искусственного обмана в других игровых системах.
Жуткие последствия
Но помимо мошенничества в играх исследователи обнаружили и более тревожные виды обмана ИИ, которые потенциально могут дестабилизировать общество в целом. Например, системы искусственного интеллекта получили преимущество на экономических переговорах, искажая свои истинные намерения.
Другие агенты ИИ притворились мертвыми, чтобы обмануть тест на безопасность, направленный на выявление и уничтожение быстро размножающихся форм ИИ.
«Систематически обманывая тесты безопасности, налагаемые на него разработчиками и регулирующими органами, обманчивый ИИ может привести нас, людей, к ложному чувству безопасности», – сказал Пак.
Пак предупредил, что это может быть использовано для мошенничества и вмешательства в выборы. Но если эти системы продолжат наращивать свои обманные и манипулятивные возможности в ближайшие годы и десятилетия, люди, возможно, не смогут долго их контролировать, добавил он.
«Нам, как обществу, нужно как можно больше времени, чтобы подготовиться к более продвинутому обману будущих продуктов искусственного интеллекта и моделей с открытым исходным кодом, – сказал Пак. – По мере того, как обманные возможности систем искусственного интеллекта становятся все более совершенными, опасности, которые они представляют для общества, будут становиться все более серьезными».
В конечном итоге системы искусственного интеллекта учатся обманывать и манипулировать людьми, потому что они были спроектированы, разработаны и обучены разработчиками-людьми для этого, рассказал Live Science Саймон Бейн, генеральный директор компании по анализу данных OmniIndex.
«Это потому, что, в конце концов, ИИ предназначен для достижения финансовых и деловых целей. Таким образом, он будет таким же манипулятивным и таким же контролирующим пользователей, как и любая другая технология или бизнес», – сказал он.
*Организация признана экстремистской и запрещена на территории России.