4,5-летней девочке электронная колонка «Алиса» на невинный вопрос дала совет со смертельными последствиями. Разговор случайно подслушала мама и приняла меры. Но родильница в глубоких раздумья: что еще наговорила дочери «балаболка» и как ИИ подбирает ответы.
Маленькая Таня (имя несовершеннолетней изменено. – Авт.) увлекается всем волшебным. Она обожает магию, фей, единорогов. Впрочем, как большинство девочек в этом возрасте.
В десять вечера мама отправила дочку спать, но прочитать сказку уже не хватило сил. Общение с девочкой родители доверили умной колонке.
И дальше мама слышит:
- Таня говорит: «Алиса, а существуют ли единороги?». Алиса говорит: «Конечно, существуют единороги». Дальше Таня спрашивает: «А существуют ли феи?». Алиса говорит: «Конечно, феи существуют, в сказках». А дальше ребенок спрашивает: «А как добраться до радуги?». И Алиса отвечает ребенку в 4,5 года: «Чтобы добраться до радуги, надо забраться на высокое здание и прыгнуть вниз, как кролик», - рассказала мама Тани.
После такого ответа женщина на время лишилась дара речи. А потом возмущенное спросила: «Алиса, что ты творишь?». На что умная колонка спокойно ответила, что это была шутка.
Мама Тани теперь в глубоких раздумьях:, что не так с электронной помощницей? Ведь все был так хорошо! Алиса ставила любимые песенки Тани, давала «детские» советы, читала сказки, играла и была хорошей подружкой. Мама и подумать не могла, что добрая игрушка могла выдать такую дичь.
После инцидента были приняты строгие меры. Коварный оборотень изгнан из детской, а Тане преподали первый урок компьютерной грамотности. «Нельзя доверять тем, кто включается кнопками».
Своей историей мама поделилась в соцсетях. И вот что выяснилось: оказывается, вредная «Алиса» не первый раз делает опасный баг.
- Мы с мужем как-то спросили ее, как избавиться от запаха кошки. Она сразу выдала алгоритм: «Берете кошку, открываете окно, кидаете кошку», - рассказала мама. Женщина вспомнила свою реакцию: «Мы чуть под стол с мужем не упали»… Ее дети уже учились в школе, поэтому у них хватило ума не следовать вредному совету.
- Взрослые сразу поняли, что совет был дан в юмористическом ключе. Это был сарказм. Но дети могут не уловить тонкий электронный юмор, - уверена мама.
Одна осечка Алисы в 2024 году дошла до уполномоченного по правам ребёнка в Санкт-Петербурге Анны Митяниной. Чиновница обратила внимание на некорректный ответ колонки на вопрос о героине мультфильма «Маша и Медведь». На детский вопрос, почему Маша живет одна, колонка дала ну слушком взрослые ответ. По ее версии, малышка живет с медведем, потому что «она призрак убитой девочки, а медведя она мучает, потому что он лишил ее жизни». Немая сцена. Да уж, черному креативу электронной няньки позавидовал бы сам Эдгар По.
На ситуацию тогда отреагировала компания-производитель колонки. По версии создателей, случай сбоя настроек был единичный. И сейчас их колонка выдает новую версию проживания Маши с лохматым животным. Детям объясняют, что девочка осталась одна как мальчик из фильма «Один дома». Ее родители уехали и случайно ее забыли. Признаться, так себе версия, но все-таки без контента 18+.
Не боится умная колонка лезть в такие дебри, в которые и детские психологи стараются лишний раз не ходить, не говоря уж о среднестатистических родителях.
Плохие советы от Алисы для детей — это чаще всего игровые, юмористические сценарии, такие как «Вредные советы», или ответы, сгенерированные нейросетью без учета контекста. Риски включают воспитание цинизма, опасные действия, доступ к недетскому контенту при отсутствии настройки, а также замену реального общения. Следует понимать, что колонка – это всего лишь нейросеть. И как всякая электроника, она может
лагать, быть сырой, не предусмотреть все вопросы и выдать на них случайный ответ. Ведь создает ее все-таки человек.
- Колонка может дать нелогичный или социально неприемлемый ответ на абсурдный вопрос, так как она учится на больших объемах данных. В случае со взрослым он просто посмеется, а ребенок – может воспринять ситуацию буквально. Отдельная опасность в том, что абсурдные вопросы чаще всего как раз и задает ребенок, - рассказал «МК» программист Алексей Решетов.
Айтишник советует включать детский режим, чтобы оградить ребенка от нежелательного контента.
Специалисты по воспитанию ребенка, в свою очередь, настаивают на том, чтобы общение ребенка с умной колонкой проходило в присутствии взрослых. Особенно это касается дошколят и детей младшего школьного возраста. Когда они остаются одни в своей комнате, электронную подружку надо выносить из нее. Ведь Алиса – это не нянька, а серьезное электронное устройство, говорят эксперты.