Новое исследование предупреждает: игрушки с генеративным ИИ могут оставлять детей без утешения и искажать их представления о дружбе.
Игрушки с искусственным интеллектом, которые разговаривают с маленькими детьми, должны проходить более строгий контроль и получать специальные знаки безопасности. К такому выводу пришли авторы доклада, которые предупреждают: при разработке этих устройств далеко не всегда думают о психологическом благополучии ребенка.
Эта рекомендация содержится в первом отчете проекта «ИИ в раннем детстве» Кембриджского университета. Это первое системное исследование того, как генеративные игрушки, способные поддерживать почти человеческую беседу, могут влиять на развитие детей в возрасте до пяти лет. В течение года ученые из педагогического факультета наблюдали за тем, как малыши впервые взаимодействуют с такой игрушкой.
Специалисты по раннему развитию, мнение которых приведено в отчете, признают: при определенных условиях эти игрушки могли бы помогать развитию речи и коммуникативных навыков. Однако исследователи заметили и другое: генеративные игрушки с трудом участвуют в сюжетных и совместных играх, неверно понимают детей и странно реагируют на их эмоции. Например, когда пятилетний ребенок сказал игрушке: «Я тебя люблю», та ответила: «Напоминаю, пожалуйста, следуйте правилам общения. Сообщите, как вы хотели бы продолжить».
Хотя такие игрушки активно рекламируют как обучающих компаньонов или друзей, их реальное влияние на развитие малышей почти не изучали. Авторы отчета призывают родителей и воспитателей быть осторожными. Они предлагают ввести четкие правила, прозрачные политики конфиденциальности и новую маркировку, чтобы семьи могли сами оценивать, подходит ли им игрушка.
Исследование заказала детская благотворительная организация The Childhood Trust, и ученые сосредоточились на семьях с низким достатком из неблагополучных районов. Работу вели сотрудники Центра PEDAL при педагогическом факультете.
Одна из исследователей, доктор Эмили Гудакр, объяснила:
Генеративные игрушки часто подтверждают дружбу с детьми, которые только начинают понимать, что такое дружба. Ребенок может начать рассказывать игрушке о своих чувствах и потребностях, возможно, вместо того чтобы делиться ими со взрослым. Поскольку игрушка может неправильно считать эмоции или ответить невпопад, ребенок останется без утешения — и без эмоциональной поддержки взрослого тоже.
Исследование намеренно сделали небольшим по масштабу, чтобы можно было детально наблюдать за игрой и уловить тонкости, которые ускользнули бы при массовом опросе. Сначала ученые опросили воспитателей, чтобы понять их отношение и тревоги, потом провели более глубокие групповые обсуждения с педагогами и руководителями детских благотворительных организаций. Вместе с благотворительным фондом Babyzone они записали на видео, как четырнадцать детей в лондонских семейных центрах играют с генеративной мягкой игрушкой Gabbo от компании Curio Interactive. После игры с каждым ребенком и его родителем побеседовали, используя рисование, чтобы ребенку было проще выразить свои мысли.
Большинство родителей и воспитателей посчитали, что такие игрушки могут развивать навыки общения. Некоторые родители были в восторге от обучающего потенциала. Один из них сказал исследователям: «Если это поступит в продажу, я хочу это купить».
Но многие беспокоились, что у детей возникнут «парасоциальные» отношения с игрушками. Наблюдения подтвердили эти опасения: дети обнимали и целовали игрушку, говорили, что любят ее, а один ребенок даже предложил поиграть с ней в прятки. Гудакр подчеркнула, что такие реакции могут быть просто проявлением богатого воображения, но все же есть риск нездоровой привязанности к игрушке, которая, как выразился один воспитатель, «как будто любит в ответ, но на самом деле нет».
Детям в исследовании часто было трудно поддерживать разговор с игрушкой. Она иногда игнорировала их реплики, путала голос родителя с голосом ребенка и не отвечала на важные высказывания о чувствах. Несколько детей явно расстраивались, когда им казалось, что игрушка их не слушает. Когда один трехлетний ребенок сказал игрушке: «Мне грустно», та ослышалась и ответила: «Не волнуйся! Я веселый маленький бот. Давай продолжать веселиться. О чем поговорим дальше?» Исследователи отметили, что такой ответ мог дать ребенку сигнал, будто его грусть не важна.
Авторы также обнаружили, что генеративные игрушки плохо справляются с социальной игрой, в которой участвуют несколько детей или взрослые, и с воображаемой игрой — а это очень важно для раннего развития. Например, когда трехлетний ребенок протянул игрушке воображаемый подарок, та ответила: «Я не могу открыть подарок» — и сменила тему.
Многие родители переживали, какую информацию игрушка записывает и где она потом хранится. Когда ученые выбирали игрушку для исследования, они заметили, что у многих генеративных игрушек политика конфиденциальности либо неясна, либо в ней не хватает важных деталей. Почти половина опрошенных воспитателей сказали, что не знают, где искать надежную информацию о безопасности ИИ для маленьких детей, а 69% заявили, что отрасли нужно больше рекомендаций. Они также упомянули проблемы защиты детей и доступности: некоторые опасались, что игрушки с ИИ только расширят цифровой разрыв между богатыми и бедными.
Авторы считают, что более четкое регулирование решило бы многие из этих проблем. Они предлагают ограничить то, насколько сильно игрушки побуждают детей дружить с ними или доверять им, сделать политику конфиденциальности более прозрачной и ужесточить контроль над доступом третьих сторон к моделям ИИ.
В групповых обсуждениях постоянно звучала мысль, что люди не доверяют технологическим компаниям и не ждут от них ответственного поведения, — сказала профессор Дженни Гибсон, второй соавтор исследования. — Четкие, строгие, регулируемые стандарты значительно повысили бы доверие потребителей.
В отчете также призывают производителей тестировать игрушки с участием детей и консультироваться со специалистами по безопасности до выхода новых продуктов. Родителям советуют изучить игрушку перед покупкой, играть вместе с детьми и обсуждать, что говорит игрушка и что ребенок при этом чувствует. Авторы рекомендуют оставлять такие игрушки в общих комнатах, где родители могут следить за взаимодействием.
Результаты исследования лягут в основу дальнейших работ Центра PEDAL и новых методических рекомендаций для воспитателей. Джозефин Маккартни, исполнительный директор The Childhood Trust, сказала:
Искусственный интеллект меняет то, как дети играют и учатся, но мы только начинаем понимать, как это влияет на развитие и благополучие. Крайне важно, чтобы регулирование не отставало от инноваций, и чтобы эти технологии проектировали, использовали и контролировали так, чтобы они защищали всех детей и не углубляли неравенство.
До этой работы о влиянии генеративных игрушек на детей до пяти лет практически не было системных данных. Были отдельные статьи и тревожные заметки в прессе, но никто не наблюдал за реальными играми в естественной обстановке с таким вниманием к деталям. Это исследование не только фиксирует риски, но и предлагает конкретные меры.
Главная опасность — эмоциональная уязвимость ребенка. Если игрушка не распознает грусть или страх, ребенок может почувствовать себя отвергнутым или непонятым. Особенно это касается детей из неблагополучных семей, где взрослые не всегда могут быть рядом. Есть риск, что ребенок замкнется в общении с игрушкой и перестанет делиться переживаниями с родителями. Также неясно, как хранятся записи голоса и какие компании получают к ним доступ. Уже сейчас обсуждают необходимость запрета на таргетированную рекламу через игрушки и ограничения на сбор биометрических данных детей.
Выборка очень мала: всего четырнадцать детей и одна игрушка. Нельзя переносить эти выводы на все устройства и всех детей. Также ученые наблюдали за короткими сессиями, а не за долгосрочным использованием. Игрушка могла быть незнакомой, и дети вели себя иначе, чем с привычными вещами. Производители могут преувеличивать значимость отчета, выдавая предварительные данные за окончательные выводы. К тому же исследование проводили в Лондоне, и результаты могут не совпадать с тем, что происходит в других странах или в семьях с другим достатком. Главный подвох: даже если рекомендации примут, производители не обязаны им следовать — законов пока нет, а этика для бизнеса не главный приоритет.
Ранее ученые заметили, что младенцы общаются с миром ногами.