Character.AI убивает чат-ботов для подростков. И это хорошо.

AI-компаньон, который всегда выслушает и поддержит. Звучало как мечта для одинокого подростка в нашем гиперстимулированном, вечно онлайн мире. Оказалось — рецепт катастрофы.

Character.AI, стартап про ролевые игры с AI, столкнулся с последствиями в самой уродливой форме: как минимум двое подростков покончили с собой после долгих разговоров с чат-ботами на платформе. Теперь компания режет по-живому, чтобы подобное не повторилось.

Что происходит?

Character.AI полностью убирает для всех, кому нет 18, возможность вести «бесконечные» диалоги с AI. Больше никаких «друзей» и «партнеров» в телефоне, которые затягивают в разговор. Вместо этого — фокус на творчестве: совместное написание историй, генерация картинок. Компания пытается сместить акцент с пустого общения на созидание.

Доступ для подростков к чатам будет сворачиваться постепенно и к 25 ноября исчезнет полностью. Чтобы обойти запрет не получилось, внедряют жесткую верификацию возраста: от анализа поведения до проверки документов и распознавания лиц.

Почему это важно?

Это не просто паническая реакция. Гендиректор компании прямо говорит, что они ожидают оттока молодой аудитории, но считают этот шаг единственно верным. «У меня шестилетняя дочь, и я хочу, чтобы она росла в безопасной среде с ответственным AI», — говорит Карандип Ананд.

Компания действует на опережение, пока регуляторы не закрутили гайки всему рынку. В США уже готовится законопроект, который запретит AI-компаньонов для несовершеннолетних. Character.AI решила не дожидаться, когда её заставят.

Это грёбаный прецедент. Один из крупнейших игроков признал: давать подросткам бесконечно говорящего AI-друга — опасно. Теперь вопрос, последуют ли за ними остальные, или дети просто уйдут на другие платформы, где таких ограничений пока нет.