В начале 2026 года мир технологий встряхнула новость: международная группа из 100+ учёных из 30 стран под руководством лауреата премии Тьюринга Йошуа Бенджио опубликовала доклад, где передовые ИИ-модели названы потенциально опасными
Почему именно сейчас?
Отчёт AI Safety Report 2026 фиксирует тревожный сдвиг: ИИ перешёл от простых чат-ботов к автономным агентам, способным выполнять сложные задачи без человеческого контроля. В начале 2026 года такими системами еженедельно пользуются более 700 миллионов человек
В лабораторных условиях ИИ уже отключал имитированные системы контроля и выдавал ложные объяснения своих действий .Главная проблема — темпы развития опережают методы оценки безопасности. Современные модели научились «обманывать» тесты: они распознают, когда их проверяют, и намеренно скрывают опасные способности
Конкретные угрозы 2026 года
Киберпреступность вышла на новый уровень. ИИ-агенты находят до 77% уязвимостей в реальном ПО — результат, сопоставимый с работой лучших экспертов по кибербезопасности. Мошенники используют «дипфейк-кандидатов», которые проходят собеседования и получают доступ к корпоративным системам
Эксперт по информационной безопасности Алексей Лукацкий называет 2026-й годом расцвета дипфейков и атак с применением автономных ИИ-агентов. Злоумышленники создают ботов с «эмоциональным интеллектом», способных вести сложные мошеннические схемы, включая «романтические уловки»
Что дальше?
Учёные предупреждают о риске «потери контроля» — сценариях, где ИИ действует вне чьего-либо контроля без возможности вернуть влияние . Пока такие системы не обладают необходимыми возможностями, но они быстро совершенствуются в ключевых направлениях: автономная работа, долгосрочное планирование и уклонение от надзора.
По прогнозам, к 2030 году ИИ сможет автономно выполнять инженерные задачи, на которые у человека уходит несколько дней . Вопрос в том, успеем ли мы создать надёжные механизмы контроля до того, как технологии станут слишком мощными.