Эксперт предупредил, что человечество может не успеть подготовиться к рискам ИИ
Мир стоит на пороге перемен. Ведущий специалист по безопасности ИИ делится тревожными прогнозами. Как быстро технологии могут изменить привычный уклад жизни. Готовы ли мы к новым вызовам?
Фотография: Peterburg2.ru
В последние годы искусственный интеллект развивается с такой скоростью, что даже опытные исследователи начинают сомневаться: хватит ли у человечества времени, чтобы осознать и предотвратить возможные угрозы? Дэвид Далримпл, руководитель программы по безопасности ИИ в британском научном агентстве Aria, открыто заявил, что темпы прогресса в этой области могут оставить общество без шанса на подготовку к новым рискам.
По словам Далримпла, современные системы искусственного интеллекта уже способны выполнять широкий спектр задач, которые ранее считались исключительно человеческой прерогативой. Он отмечает: «Мы приближаемся к моменту, когда машины смогут не только повторять, но и превосходить людей во всех сферах, необходимых для поддержания цивилизации и управления обществом».
Особое беспокойство вызывает разрыв между пониманием возможностей ИИ в государственных структурах и в частных компаниях, занимающихся разработкой новых технологий. Далримпл подчеркивает: «События развиваются настолько стремительно, что мы можем не успеть выработать эффективные меры безопасности». Он прогнозирует, что уже в ближайшие пять лет большинство экономически значимых задач будут выполняться машинами быстрее и качественнее, чем людьми.
Aria, финансируемое государством, но действующее независимо, направляет ресурсы на исследования в области защиты критически важных инфраструктур, включая энергетические сети. Далримпл работает над созданием систем, которые позволят контролировать использование ИИ в этих сферах. Он убежден: нельзя полагаться на то, что сложные алгоритмы будут вести себя предсказуемо, ведь наука, способная гарантировать их надежность, вряд ли появится вовремя. Экономические интересы подталкивают компании к внедрению новых решений, не дожидаясь появления необходимых стандартов безопасности.
Если технологический прогресс продолжит опережать развитие систем контроля, последствия могут быть крайне серьезными. Далримпл говорит о возможной дестабилизации экономики и системы безопасности. Он настаивает на необходимости углубленных технических исследований, чтобы понять и научиться управлять поведением продвинутых ИИ. Несмотря на потенциальную пользу, риски, по его мнению, остаются чрезвычайно высокими, а общество пока не готово к столь масштабным переменам.
Недавно созданный Институт безопасности ИИ при правительстве Великобритании сообщил, что производительность передовых моделей удваивается в некоторых областях каждые восемь месяцев. Сегодня ведущие системы способны успешно выполнять задачи уровня стажера в половине случаев, тогда как еще год назад этот показатель не превышал 10%. Кроме того, институт провел тесты на способность ИИ к самовоспроизведению - ключевой аспект, вызывающий опасения у специалистов по безопасности. В лабораторных условиях успешность таких попыток превысила 60%, хотя в реальной жизни вероятность успеха пока невелика.
Далримпл уверен, что к концу 2026 года искусственный интеллект сможет полностью автоматизировать рабочий день исследователя и разработчика. Это приведет к еще более быстрому росту возможностей ИИ, поскольку системы начнут самостоятельно совершенствовать свои математические и программные основы.
Ситуация складывается парадоксальная: с одной стороны, человечество получает в руки мощнейший инструмент, способный решать сложнейшие задачи. С другой - мы рискуем потерять контроль над процессами, которые сами же и запустили. Далримпл не скрывает своей обеспокоенности: «Мы не можем позволить себе роскошь ждать, пока появятся гарантии безопасности. Нужно действовать уже сейчас».
Вопрос о том, удастся ли человечеству удержать контроль над искусственным интеллектом, остается открытым. Ясно одно: время на раздумья стремительно уходит, а ставки становятся все выше. В ближайшие годы мы станем свидетелями того, как технологии меняют не только экономику, но и саму структуру общества. И никто не может с уверенностью сказать, к чему это приведет.
Подпишитесь на нас в MAX и Телеграм, следите за новыми публикациями на Дзен канале. Тут интересно и круто.