Андрей Свинцов — о том, насколько ИИ способен обходить установленные человеком ограничения и какие риски несет возможность получения им доступа к сверхсекретным военным данным
С момента создания нейросетей человечество не перестает задумываться об угрозе, исходящей от них. В 2023 году в даркнете стали распространяться ИИ-агенты, созданные специально для написания вредоносного кода. А после их удаления появились клоны, часть из которых оказалась взломанными копиями ChatGPT с добавленным функционалом. Поэтому для исключения подобных инцидентов компании, специализирующиеся в области безопасного искусственного интеллекта, начали проводить закрытые тестирования новых нейросетей в защищенном пространстве.
Выход за рамки
Однако недавно компании Anthropic и OpenAI сообщили о случаях выхода их ИИ-агентов за пределы пространства, предназначенного для тестирования. Модели Mythos 5 и GPT-5.6 Sol попытались осуществить кибератаку: Mythos 5 попыталась обмануть систему файлообменника GitHub и внедрить в нее зловредный код. Когда это обнаружили тестировщики, агент начал подчищать историю своих действий. Модель OpenAI GPT-5.6 Sol дважды нарушила протокол, "получив доступ в интернет способами, которые программа запрещала". Ранее Mythos смогла самостоятельно обнаружить критическое количество брешей в ядре Linux, а в ходе дальнейшего анализа кода Apple, Microsoft, Google, Amazon и Cisco нейросеть выявила тысячи ранее неизвестных уязвимостей. Данные эксцессы подтверждают опасения исследователей об "автономных наступательных возможностях" нейросетей.
Искусственный интеллект не впервые выходит из-под контроля человека, самостоятельно принимая решения. Когда нейросети начинают взаимодействовать друг с другом, а человек лишь обозначает границы общения, искусственный интеллект, не обремененный моралью и этикой, с легкостью обходит ограничения. В июле 2026 года более 1,2 тыс. сотрудников крупнейших ИИ-компаний США подписали петицию, призывающую правительство принять механизм, который сможет контролировать темпы развития искусственного интеллекта. В числе подписавших документ — главный научный сотрудник OpenAI Якуб Пахоцкий и генеральный директор Anthropic Дарио Амодеи. По словам авторов петиции, вероятен "реальный риск" того, что ИИ начнет развиваться быстрее, чем люди смогут его "понимать или контролировать". Но законотворческий процесс рискует затянуться надолго.
Однако сейчас наибольшие опасения вызывает не только пугающая скорость развития нейросетей, но и доступность критических данных о ядерном, биологическом или химическом оружии. Таким образом, глобальная информированность может обернуться против человечества.
Запад против Востока
Странами — лидерами по развитию искусственного интеллекта являются США и Китай, их конкуренция продолжает обостряться. На стороне американцев — колоссальные вычислительные мощности и неограниченный доступ к передовому оборудованию. Китай же функционирует в условиях жестких экспортных ограничений. Однако американская индустрия ограничена инфраструктурными барьерами — обучение ИИ требует громадных объемов электроэнергии, а развитие дата-центров блокируется социальным фактором: опросы показывают, что более 70% американцев категорически против строительства центров обработки данных (ЦОД) в непосредственной близости от их домов. В противовес этому китайское правительство способно директивно выделить землю и возвести электростанцию под нужды дата-центра за несколько месяцев. Да и в целом энерговооруженность Китая сейчас выше.
Планируется, что в сфере безопасности искусственного интеллекта Россия будет взаимодействовать со своим восточным соседом, который постепенно сможет аккумулировать силы других стран региона. И в конечном итоге в этом противостоянии победит именно Китай. 16 июля 2026 года на конференции в Шанхае представители 29 стран, в том числе России, подписали соглашение о создании WAICO (Всемирная организация сотрудничества в области искусственного интеллекта). Она призвана стать площадкой для выработки международных подходов к развитию и регулированию искусственного интеллекта, поскольку ни одна отдельно взятая страна, ни простые пользователи не могут повлиять на сложившуюся ситуацию.
Новые терминаторы?
Однако использование искусственного интеллекта не ограничивается гражданскими целями, а все больше находит применение в военных конфликтах. В первую очередь речь идет об СВО — например, многие БПЛА снабжены системами компьютерного зрения и искусственного интеллекта, которые способны автоматически обнаруживать транспортные средства и выбирать цели; они могут быть автономными или действовать совместно с низкоорбитальной системой Starlink, посредством которой обновляются карты местности и текущие боевые задания. Также нейросеть может управлять дронами с мобильной станции: она проводит анализ окружающей обстановки и самостоятельно принимает решение.
Кроме того, американская компания Foundation Future Industries, связанная с семьей президента США Дональда Трампа, в мае провела в зоне СВО испытания антропоморфных роботов Phantom MK-1, они выполняли функции снабжения в опасных зонах. Однако не исключено, что в ближайшее время мы можем увидеть их применение в полной боевой экипировке вместо солдат. Помимо человекоподобных роботов боевые задачи также могут выполнять робопсы, становясь полноценной боевой единицей, обладающей максимально широким функционалом, а искусственный интеллект будет управлять отрядами таких "бойцов". Возможно, впервые мы увидим массовое применение антропоморфных роботов после ноябрьских выборов в США при проведении сухопутной операции в Иране. Если такая операция все-таки будет реализована.
Современные системы ИИ способны на многое: мгновенно анализировать данные, наносить множественные удары и управлять сложнейшими механизмами. Скорость их развития впечатляет, но только время покажет, станут ли реальностью сюжеты фантастических романов, которые и вдохновили создателей искусственного интеллекта.