Искусственный интеллект грозит глобальной безопасности мира: новые исследования

Результаты исследования показали, что ИИ демонстрировал непредсказуемое и агрессивное поведение, а также часто прибегал к использованию ядерного оружия.
Такие результаты вызывают серьезные опасения, особенно учитывая стремление Пентагона внедрять такие модели в процесс принятия военных решений. Несмотря на очевидную нелепость использования LLM в таком контексте, подобные эксперименты уже проводятся, подчеркивая актуальность вопроса и необходимость его обсуждения.
Исследование также включало симуляцию международных отношений, где чат-боты от различных компаний принимали роль лидеров государств. Большинство моделей проявили тенденцию к эскалации конфликта и принятию решения о применении ядерного оружия, что подчеркивает потенциальные риски использования подобных технологий без должного анализа и контроля.
Отмечается, что важно проводить тщательный анализ и учитывать поведение таких моделей перед их использованием в военных и дипломатических ситуациях.

Ранее мы писали: Новый вид обмана: с помощью искусственного интеллекта генерируют голоса людей. В социальных сетях возник новый вид мошенничества, предупреждает жителей и гостей Краснодарского края полиция Кубани.
Сможет ли ChatGPT поработить человечество: реальные угрозы и мифы ChatGPT и подобные ему по степени сложности нейросети или же Искусственный интеллект – главный технический прорыв нашего времени. Возможности их поражают. Но помимо этого человечество стали пугать различными страшилками про ИИ. Якобы он может достичь такого уровня, что сможет принести реальную угрозу людям. Ученые попытались выяснить: так ли это? Их пересказали в РБК.
ИИ убьет человечество: мы впервые столкнулись с тем, кто гораздо разумнее нас На британском саммите по безопасности искусственного интеллекта Илон Маск предположил, что ИИ сможет убить человечество. И такая вероятность существует.