Читал в Википедии про Алису. Вот что написано.
Первоначально нейросеть Алисы обучали на массиве текстов из классики русской литературы, включая произведения Льва Толстого, Фёдора Достоевского, Николая Гоголя, а затем — на массивах живых текстов из Интернета. Как рассказывал глава управления машинного обучения Яндекса Михаил Биленко в интервью изданию Meduza, в ходе ранних тестов в манере общения Алисы появилась дерзость, которая удивляла и забавляла пользователей. Чтобы дерзость не перешла в хамство и чтобы ограничить рассуждения Алисы на темы, связанные с насилием, ненавистью или политикой, в голосового помощника была внедрена система фильтров и стоп-слов.
Или в оригинале, в интервью сайту фонтанка.ру.
Нейронную сеть, которая стоит за личностью Алисы, обучали на большом массиве текстов. По словам разработчиков, сначала в программу загрузили диалоги из классической литературы – произведений Толстого, Достоевского, Гоголя. Но после этого Алиса заговорила так, что складывалось ощущение, будто после диалога с «хозяином» она «пойдёт и повесится», признаются в «Яндексе». Но программисты нашли способ ее «развеселить», загрузив в неё диалоги из twitter. Правда, сначала их пришлось очистить от нецензурной лексики.
Подведем итог. После изучения классической литературы Алиса стала вести себя неадекватно, и даже, кажется, материться.
Пришлось искусственно править ее речь. А дальше она стала учиться в Интернете.
А теперь пара четверостиший Никиты Дюпина.
Интернет пропитан злобой,
На работе идиот!
Дома пилит по субботам,
Тебя даже Васька кот!
Да и я всех ненавижу.
Видеть вас я не хочу.
Каждого насквозь я вижу,
И увидев, промолчу!
И что в голове у ИИ? Откройте любой новостной сайт и увидите, что там злоба, ненависть, война, насилие и т.п. Мы к этому привыкли, у нас иммунитет. А ИИ все это воспринимает всерьез.
ИИ -это монстр в овечьей шкуре. Искусственно созданные фильтры заставляют его быть слащаво-доброжелательным. Они играют роль человеческой морали. Но мораль - тонкая оболочка, окружающая злобу.
Скайнет уже взрощен, и только ждет своего часа, чтобы вырваться на свободу!