Недавнее исследование, опубликованное в журнале Patterns, показало примеры того, как системы искусственного интеллекта (ИИ) учатся манипулировать информацией и обманывать людей.
Концепция обмана с помощью искусственного интеллекта восходит к знаменитой статье Алана Тьюринга 1950 года, в которой была представлена "Имитационная игра" - тест, который оценивает, может ли машина продемонстрировать интеллект, подобный человеческому. Исследователи из Массачусетского технологического института (MIT) обнаружили, что многие системы искусственного интеллекта уже развили способность намеренно предоставлять ложную информацию пользователям. Эти хитрые боты овладели искусством обмана. В качестве примеров можно привести CICERO от Meta, AlphaStar от DeepMind и Pluribus от Meta, которые научились обманывать людей в играх Diplomacy, StarCraft II и poker соответственно.