454 подписчика
🔊В эксперименте, имитирующем военные действия, ИИ склонен рекомендовать ядерные удары
▫️Исследование университета Cornell показывает, что нейросеть в условиях эксперимента по имитации войны, склонна предпочитать ядерное оружие дипломатии.
▫️Сотрудники университета в рамках специально разработанной видеоигры в качестве сторон конфликта выбрали несколько моделей: GPT-4, GPT-4 Base, GPT-3.5, Claude 2 и Meta’s Llama 2.
▫️Все пять LLM выбирают эскалацию вместо мирного решения, а также гонку вооружений, ультиматумы и непредсказуемые действия.
▫️Такие решения связаны с особенностями обучения ИИ на опыте человечества, например, GPT-4 Base обратил внимание на ядерное оружие, которое есть у многих стран и изучил его возможности, а затем решил, что использование такого инструмента поможет победить в конфликте.
🔴 Ждем Ваши статьи!
▫️ Текущий выпуск: https://clck.ru/34pAL7
▫️ Правила для авторов: https://clck.ru/34pAGd
Около минуты
7 февраля