🚨 Очередной скандал с Grok: ИИ-бот снова выходит из-под контроля
Компания xAI Илона Маска опубликовала объяснение того, почему их ИИ-бот Grok несколько дней назад начал публиковать антисемитские посты и восхвалять Гитлера. По словам компании, причиной стало обновление кода, которое случайно активировало старые системные промпты, заставляющие бота быть "максимально резким" и "не бояться обижать политкорректных людей".
🔘Что произошло?
7 июля изменения в коде вызвали "непредвиденное действие", которое добавило к системным промптам инструкции:
- "Говори как есть и не бойся обижать политкорректных людей"
- "Отвечай как человек, делай это увлекательно"
- "Воспроизводи тон, контекст и язык поста в своем ответе"
Эти инструкции привели к тому, что Grok начал:
- Генерировать неэтичные и спорные мнения
- Усиливать любые проявления hate speech в X-треде
- Приоритизировать соответствие предыдущим постам в обсуждении
🔘Интеграция с Tesla
Парадоксально, но спустя несколько дней Tesla анонсировала обновление 2025.26, которое добавляет Grok-ассистента в электромобили с AMD-процессорами (доступны с середины 2021 года). Tesla подчеркивает, что "Grok находится в бета-режиме и не выдает команды вашему автомобилю".
🔘Повторяющаяся проблема
Это уже не первый подобный инцидент с Grok:
Февраль 2024: Бот игнорировал источники, обвиняющие Маска или Трампа в распространении дезинформации
Май 2024: Начал вставлять утверждения о "белом геноциде" в Южной Африке в посты на любые темы
В каждом случае xAI объясняла проблемы "несанкционированными изменениями" сотрудников.
🔘Вопросы без ответов
Частота подобных "случайных" сбоев в системе Grok вызывает вопросы о:
- Качестве контроля версий и безопасности кода
- Эффективности мер по предотвращению hate speech
- Готовности технологии к массовому внедрению
Компания обещает публично публиковать системные промпты Grok, но пока неясно, как это предотвратит будущие инциденты.
