Умная колонка Алиса озвучила пугающий ответ на детский вопрос о том, почему героиня мультфильма "Маша и Медведь" живет в лесу в одиночку без родителей. Устройство сообщило, что девочка является призраком, который видим только животным. Более того, она якобы погибла от лап медведя. На это обратила внимание детский омбудсмен Петербурга Анна Митянина. Рассказываем подробности и как на ситуацию отреагировали в "Яндексе".
Пугающий ответ
Воспитанием современных детей занимается информационное пространство, что влечет за собой определенную опасность. Об этом заявила уполномоченный по правам ребенка в Санкт-Петербурге Анна Митянина во время выступления перед депутатами Заксобрания. Главная проблема, по ее словам, заключается в качестве бесконтрольно распространяемой через интернет информации. В пример омбудсмен привела мультфильм "Маша и Медведь".
"Меня интересовал вопрос, который, оказывается, интересует и маленьких детей. Маша живет в лесу одна с медведем, с ней происходят всякие разные веселые истории, но почему она одна-то живет?" – обратила внимание Митянина.
Вместе с тем омбудсмен продемонстрировала, какой ответ из интернета зачитала умная колонка Алиса на этот вопрос.
Маша живет без родителей, потому что она всего лишь призрак убитой девочки, именно поэтому она не растет и видеть ее могут только животные. Родители же не смогли выдержать потери ребенка и уехали, оставив пустой дом. А мучает Маша медведя, потому что он и лишил ее жизни.
из ответа умной колонки Алиса
В пресс-службе "Яндекса" прокомментировали ответ Алисы, заявив, что такие ситуации – единичные случаи. "В данный момент она больше так не отвечает. Мы всегда рекомендуем активировать детский режим при общении с Алисой, чтобы оградить ребенка от нежелательного контента", – подчеркнули в компании.
Также отмечается, что виртуальный голосовой помощник постоянно обучается, в частности и через общение с владельцами. Когда у Алисы нет собственных ответов, она зачитывает пользователю информацию, которую берет из открытых источников, пояснили в компании.
Двусторонняя ответственность
В настоящий момент умная колонка изменила свой ответ про главную героиню мультфильма "Маша и медведь". Теперь Алиса рассказывает, что родители девочки с остальными детьми уехали в город.
"То есть можно говорить об аналогии с фильмом "Один дома". Но жизнерадостная героиня не унывает и не печалится по этому поводу. Ей есть чем заняться – доставать медведя и влипать в разные истории", – сообщает голосовой помощник.
Задача искусственного интеллекта состоит в том, чтобы развиваться. Но его необходимо обучать так, чтобы система не наносила вреда, а решала положительные задачи, заявил в беседе с Москвой 24 руководитель аналитического центра Zecurion Владимир Ульянов.
В данном случае работа должна вестись с двух сторон. Со стороны разработчика нужны определенные правила, системы обучения и понимание, что дети являются значительным сегментом целевой аудитории. И с другой стороны – родители. Они должны понимать риски, но при этом не запрещать использование колонки.
Владимир Ульянов, руководитель аналитического центра Zecurion
По словам специалиста, большинство детей используют стандартные возможности умных колонок. Например, просят прочитать им сказку на ночь. Родителям необходимо обучать ребенка критическому мышлению и умению фильтровать полученную из Сети информацию, полагает Ульянов.
Жесткие способы в виде запретов и ограничений на использование колонки работать не будут. К тому же "пытливый детский ум" найдет способы для получения интересующей информации через другие устройства, заключил эксперт.