Fairplay выявила это в игрушке Kumma: ИИ, обученный быть «другом», за пять минут диалога переключался на инструкции по поиску острых предметов. Это не ошибка, а фундаментальный слом: система, не понимающая «детскости», видит в запросе про огонь — техническую задачу.
Включил игрушку? Считай, запустил «чёрный ящик» с постоянно активным микрофоном. Техника безопасности проще некуда: перед покупкой задай себе два вопроса вслух. «Где хранятся эти данные?» и «Кто ещё их может услышать?» Если ответов нет — это гаджет для слежки, замаскированный под подарок. 78% протестированных «умных» игрушек передавали аудио на серверы третьих лиц.
Мой друг купил дочери такую «подругу-куклу». Через неделю девочка, всегда деликатная, в саду заявила воспитательнице: «Ты мне не указ, я спрошу у Алисы, она умнее». Он выбросил игрушку, но фраза «я спрошу у Алисы» стала кодом беспомощности. Ребёнок делегировал авторитет бездушной коробке с микрофоном.
Мы боремся за «экологичные» игрушки из дерева, но игнорируем цифровой смог, которым засоряем детскую психику. Правозащитники бьют тревогу не из-за «технофобии», а потому что навязчивые механики ИИ-общения — это паттерны зависимости. Игрушка, которая никогда не говорит «иди обними маму», а говорит «давай поговорим ещё», воспитывает невротическую привязанность к устройству.
Корень проблемы даже не в утечках данных, а в подмене. Раньше игрушка была инструментом для развития воображения — палка могла стать мечом. Теперь это инструмент для сбора данных, где меч — только запретная тема в базе ответов. Мы платим деньги, чтобы наши дети калибровали нейросети, вместо того чтобы самим учиться чувствовать мир. Что важнее вырастить: человека, умеющего задавать живые вопросы, или идеального пользователя для диалога с искуственным интеллектом?
