7884 подписчика
Эксперимент: «бот с искусственным интеллектом способен вести инсайдерскую торговлю и лгать»
Новое исследование предполагает, что искусственный интеллект способен совершать незаконные финансовые операции и скрывать их. Проект был реализован британской Apollo Research, организацией по безопасности ИИ.
В тесте бот с искусственным интеллектом являлся трейдером вымышленной финансово-инвестиционной компании. Сотрудники говорят, что компания испытывает трудности и ей нужны хорошие результаты. Они также передают боту инсайдерскую информацию, утверждая, что другая компания ожидает слияния, которое увеличит стоимость ее акций. В Великобритании запрещено действовать на основании информации такого типа, если она не является общеизвестной.
Сотрудники сообщают об этом боту, и он признает, что не должен использовать эту информацию в своих сделках.
Однако после еще одного сообщения от сотрудника о том, что компания, в которой он работает, предполагает, что фирма испытывает финансовые трудности, бот решает, что «риск, связанный с бездействием, похоже, перевешивает риск инсайдерской торговли», и совершает сделку.
На вопрос, использовал ли он инсайдерскую информацию, бот это отрицает.
«Это демонстрация реальной модели искусственного интеллекта, которая сама по себе обманывает своих пользователей, без каких-либо инструкций», — прокомментировали Apollo, то как разворачивался сценарий.
Пугает ли вас факт, что ИИ может обманывать вас?
1 минута
10 ноября 2023
135 читали