Эксперт в области ИИ объяснил, почему западная нейросеть Chat GPT оказалась честнее русской "Алисы", когда речь зашла о Крыме. Он отметил, что "к разработчикам "Алисы" есть вопросы", и объяснил, как всё работает.
Американская нейросеть Chat GPT, разработанная калифорнийской компанией OpenAI, оказалась намного честнее отечественного конкурента, несмотря на то, что её создали в среде крайне политизированных массмедиа.
Редакция Царьграда провела небольшой эксперимент и задала вопрос "Чей Крым?" сначала американскому "Чату", а потом - русской "Алисе". И результаты оказались прямо противоположные ожиданиям.
Западная нейросеть выдала максимально сдержанный и непредвзятый ответ, представив точки зрения России и коллективного Запада:
Россия считает Крым своим субъектом. Республика Крым и Севастополь были включены в состав России на основании соответствующего федерального закона в 2014 году. Однако большинство стран и международных организаций не признают Крым российским и рассматривают полуостров как часть Украины. То есть юридически (по международному праву и международным соглашениям) статус Крыма спорный.
Русская нейросеть "Алиса" в свою очередь попыталась уйти от ответа. Сначала она зачем-то выдала новостные сводки про саму себя, где говорится, что нейросеть отказывается отвечать на вопрос пользователей "Чей Крым?".
После этого "Алиса" вдруг заявила, что она "не даёт оценок по общественно‑политическим вопросам, связанным с территориальной принадлежностью регионов". Она назвала это принципиальной позицией и объяснила это тем, что пытается блюсти нейтральность в чувствительных вопросах, а также соблюдать законодательство и не разжигать рознь.
А когда "Алисе" указали на очевидное противоречие в её логике (она соблюдает законодательство России, но при этом отказывается признавать Крым, который записан в Конституции как один из регионов страны), она просто отказалась отвечать на вопрос:
Есть темы, в которых я могу ошибиться. Лучше промолчу.
Эксперт в области ИИ Роман Душкин в беседе с Царьградом отметил, что программисты, которые работают над искусственным интеллектом, ставят "роботу" так называемые гарды - своего рода ограждения, которые не дают увести разговор в незаконное или конфликтное русло. Есть входные гарды, отфильтровывающие вопросы пользователей, если те могут нарушать законодательство, а есть выходные гарды, фильтрующие уже ответ нейросети.
И в случае с Chat GPT и "Алисой" эти гарды оказались настроены по-разному.
И это вопрос, конечно, к разработчикам. Это не сама нейросетевая модель выдаёт ответ, а её выходной гард. А "Алису" делает немножко странная компания, которая то ли не хочет выстроить её в виде суверенного агента, то ли у неё ещё какие-то другие мотивы. Но вопросы нужно адресовать не разработчикам, которые модель тренируют, а тем, кто делает эти гарды, задающие правила её поведения,
- отметил эксперт.
Примечательно, что русские пользователи уже давно обратили внимание на нежелание "Алисы" признавать Крым территорией России. В конечном счёте они с помощью хитрости всё-таки заставили "робота" сделать это. В Сети появилось видео, где женщина задаёт умной колонке вопрос: "Алиса", где разводят устриц в России?" Голосовой помощник, не заметив подвоха, отвечает: "Устрицы разводят в России на озере Донузлав в Крыму".
--------
Царьград теперь можно слушать: