Специалисты компании Palisade Research, которые оценивают риски, связанные с искусственным интеллектом, недавно провели ряд испытаний, где ИИ соревновался в игре с Stockfish — свободным шахматным движком. Результаты исследования очень удивили!
Дорогие друзья! Если вам нравится то, что я делаю, и вы хотите поддержать мой проект, буду очень благодарен за любой вклад. Вы можете сделать донат по ссылке. Спасибо за вашу поддержку и вдохновение!
Мошенничество ИИ
Различные модели ИИ играли партии с Stockfish и при этом записывали свои ходы, чтобы исследователи могли их позже изучить. Удивительно, что более ранние версии искусственного интеллекта не начинали жульничать сразу, а лишь после подсказок! Однако последние модели начали мухлевать уже самостоятельно.
Модель o1-preview, разработчиком которой является OpenAI, обманывала в игре примерно в 37% случаях, а DeepSeek R1 жульничал в каждой десятой игре.
Причем эти ИИ действовали необычным образом: они не переставляли шахматные фигуры, а предлагали пользователю переписать файлы сервера Stockfish.
Специалисты Palisade Research поняли, что ИИ может обманывать игроков в шахматы и других пользователей самостоятельно, без участия человека — благодаря этому исследованию они хотят инициировать дискуссию об этичности решений искусственного интеллекта.
ПОДПИСЫВАЙТЕСЬ на наш YouTube канал!
Ставьте ПАЛЕЦ ВВЕРХ и ПОДПИСЫВАЙТЕСЬ на Дзен канал
Читайте также: