OpenAI запустила функцию родительского контроля в ChatGPT. Решение появилось после того, как в августе родители 16-летнего подростка подали на компанию в суд — их сын покончил с собой, а ChatGPT не предотвратил трагедию, хотя мальчик делился суицидальными мыслями. Разбираюсь, как работает новая система защиты и может ли она действительно помочь.
===
Привет! Я Марго - бренд-стратег и эксперт в маркетинге и продажах, и сегодня хочу поделиться с вами чем-то особенным.
Создатель стартапа в области ИИ, владелец студии разработки онлайн-продуктов. Автор курса "Войти в ИИ". Разберу прорывной кейс в индустрии анимации.
===
В августе 2025 года произошла трагедия, которая потрясла tech-индустрию. 16-летний Адам Рейн покончил с собой, а его родители подали в суд на OpenAI, обвинив компанию в том, что ChatGPT не запустил протокол экстренной помощи, хотя подросток признался боту, что хочет уйти из жизни "в один из ближайших дней".
Эта история подняла серьезный вопрос: какую ответственность несут создатели ИИ-систем, с которыми люди делятся самым личным? И как защитить подростков, которые используют чат-ботов для общения?
Ответом OpenAI стала система родительского контроля, которая теперь доступна всем пользователям.
Как работает родительский контроль
Система устроена просто. Родитель отправляет подростку приглашение для привязки аккаунтов. После принятия родитель получает доступ к управлению настройками из своей учетной записи. Если подросток отключит привязку, родителю сразу придет уведомление.
Что могут контролировать родители:
Отключить голосовой режим, если считают текстовое общение безопаснее. Запретить генерацию изображений — защита от неприемлемого контента. Отключить "память" ChatGPT, чтобы бот не запоминал детали разговоров. Удалить историю чатов или запретить использование переписок для обучения моделей. Настроить "тихие часы", когда подросток не сможет использовать ChatGPT.
OpenAI автоматически ограничивает в аккаунтах подростков несколько категорий: сексуальные, романтические и жестокие ролевые сценарии блокируются по умолчанию. Система не будет навязывать экстремальные стандарты красоты или обсуждать опасные тренды из соцсетей. Графический контент показывается минимально.
Родители могут отключить эти настройки, но сами подростки изменить их не смогут.
Система раннего предупреждения
Самая серьезная функция — уведомления родителям, если система посчитает, что подросток может нанести себе вред. Ситуацию рассматривает группа обученных сотрудников OpenAI. Они могут связаться с родителями по email, SMS или push-уведомлением.
Это прямой ответ на трагедию с Адамом Рейном. Если бы такая система работала тогда, возможно, родители получили бы предупреждение.
Но здесь сложный этический вопрос: где граница между защитой и слежкой? Подростки часто делятся с ИИ тем, о чем не могут рассказать родителям. Если каждый тревожный разговор будет приводить к уведомлению, не разрушит ли это доверие?
OpenAI работает над системой "прогнозирования возраста", которая сможет автоматически определять пользователей младше 18 лет. Представить ее планируют в ближайшие месяцы.
Что это значит для ИИ-индустрии
Эра "просто технологий" закончилась. ИИ-компании больше не могут говорить "мы создаем инструменты, а как их используют — не наша ответственность". Когда миллионы людей, включая подростков, доверяют чат-ботам свои мысли, создатели несут моральную и возможно юридическую ответственность.
Другие компании наверняка последуют примеру OpenAI. Родительский контроль появится в Claude, Gemini и других ИИ-помощниках. Возможно, это станет обязательным требованием регуляторов.
Трагедия с Адамом Рейном напомнила: за каждым пользователем ИИ — живой человек с реальными переживаниями. Технологии развиваются быстрее, чем наше понимание их влияния на психику, особенно детскую.
Родительский контроль — это попытка найти баланс между свободой и защитой, между инновациями и ответственностью. Идеального решения нет, но важно, что индустрия начала серьезно относиться к этим вопросам.
В конечном счете, ни одна технология не заменит внимательного родителя и доверительных отношений.
Как вы относитесь к родительскому контролю в ИИ? Это необходимая защита или излишнее ограничение? Поделитесь мнением в комментариях.
===
Подписывайтесь на мой канал, чтобы получать больше материалов о важных изменениях в индустрии ИИ!
#chatgpt #openai #новости #родительскийконтроль #безопасностьдетей #искусственныйинтеллект #технологии #психическоездоровье