Образовательные и исследовательские инициативы: Ведутся масштабные научные и образовательные проекты по изучению возможностей ИИ, созданию новых моделей и алгоритмов. Среди них выделяются международные образовательные программы, конференции и лабораторные исследования, попытки проверить возможности искусственного интеллекта в различных сферах научных и практических занятий
Искусственный интеллект Grok, разработанный компанией xAI Илона Маска, получил ограничения на использование источников, упоминающих о распространении дезинформации миллиардером Илоном Маском или президентом США Дональдом Трампом. Соответствующую информацию подтвердил руководитель инженерного отдела xAI Игорь Бабушкин, сообщает The Verge.
Пользователи обратили внимание на то, что чат-бот Grok не предоставляет ответы, когда запросы касаются упоминаний о Маске или Трампе в контексте дезинформации. Впоследствии Бабушкин заявил, что эти изменения были внесены без одобрения руководства, и обвинил в этом неназванного бывшего сотрудника xAI, который ранее работал в OpenAI.
Бабушкин уточнил, что системные подсказки Grok (внутренние правила, регулирующие то, как ИИ отвечает на запросы) видны всем. По его словам, «сотрудник внес изменения» в системные подсказки, «потому что они думали, что это поможет, но это, очевидно, не соответствует нашим ценностям».
К слову, сам Илон Маск называет Grok «ИИ, максимально ищущим истину», а его миссией — «понять вселенную».
Кейс Grok от xAI: уроки управления ИИ
- Суть: пользователи заметили, что Grok не отвечает на запросы, связанные с упоминаниями о дезинформации в контексте Илона Маска или Дональда Трампа. По информации The Verge, руководитель инженерного отдела xAI Игорь Бабушкин подтвердил ограничения, позже заявив, что изменения в системные подсказки были внесены без одобрения руководства и связал это с бывшим сотрудником.
- Что важно методологически:Системные подсказки как объект управления: малозаметные правки в правилах модели способны радикально менять поведение.
Прозрачность и подотчётность: кто, когда и на каком основании меняет политики модели.
Аудит и журналирование: необходимость следов изменений, независимых проверок и откатов.
Коммуникация с пользователями: ясные сообщения о причинах отказов и логике модерации.
Что это значит для образования и исследований
- Учебные планы должны включать: дизайн системных подсказок, безопасность промптов, оценку рисков, комплаенс и процедуру change management.
- Практикум: построение конвейеров оценки — от метрик точности к метрикам честности, устойчивости и полезности.
- Кросс-функциональные навыки: инженерия, юриспруденция, этика, продуктовая аналитика.
Взгляд вперёд
- Экосистема ИИ ускоряется за счёт образования и открытой науки, но устойчивость требует зрелого управления: прозрачных подсказок, измеримой безопасности и командной ответственности.
- Кейс Grok напоминает: не только архитектуры и данные важны, но и процессы — кто управляет поведением модели и как это контролируется.