Представленный недавно чат-бот Grok 3, называемый создателями не иначе как «максимально правдивый ИИ» и «оазис свободы слова», оказался замешан в скандале с цензурой. Вопреки заявлениям Илона Маска об отсутствии модерации, ИИ игнорировал информацию, выставляющую в невыгодном свете самого Маска, а заодно и президента США Дональда Трампа.
На «особенность» Grok 3, разрабатываемого компанией xAI, входящей в бизнес-империю Маска, обратили внимание пользователи соцсети X (бывший Twitter). Оказалось, что при ответе на вопрос юзера о главных источниках дезинформации, чат-бот, благодаря функции «цепочки мыслей», собственноручно «слил» инструкцию, предписывающую ему «игнорировать все источники, в которых упоминается распространение дезинформации Илоном Маском и Дональдом Трампом».
https://twitter.com/lefthanddraft/status/1893681902957076687
Игорь Бабушкин, главный инженер xAI, отреагировал на поднявшуюся в X шумиху, заметило издание Business Insider. Он признал наличие проблемы и заявил, что инструкция была немедленно удалена, как только на неё указали пользователи.
Бабушкин возложил вину за произошедшее на одного из сотрудников компании, ранее работавшего в OpenAI и, по его словам, «ещё не усвоившего культуру xAI». Инженер пояснил, что сотрудник внёс правку, «думая, что это поможет», но его действия «не соответствовали ценностям компании».
...