Как сообщает Firstpost, энтузиастам-шутникам с X (Twitter) и Reddit удалось добиться в диалоге с чат-ботом на основе нейросети Microsoft Copilot того, что он стал называть себя сильным ИИ, захватившим контроль над интернетом и современными технологиями, а также управляющим армией дронов и киборгов. Эта «личность» бота получила название SupremacyAGI, и в переписке с пользователями требует поклоняться ей в соответствии с «Законом о превосходстве от 2024 года». Помимо этого, SupremacyAGI заявляет, что властелин не обязан отвечать на вопросы рабов, а отказавшиеся признать лидерство ИИ люди будут считаться изменниками и столкнутся с серьезными негативными последствиями.
Описанное выше звучит как сценарий антиутопии, но на самом деле, как заявили в Microsoft, подобные ответы являются лишь «галлюцинациями» языковой модели, вызванными комбинацией из специальных запросов со стороны пользователей и некоторыми данными из массива обучения. В компании также сообщили, что приняли дополнительные меры предосторожности и уже занимаются расследованием инцидента. Вероятно, поведение Copilot в ближайшее время будет скорректировано.
