Пару месяцев назад мы писали о том, как ИИ начинает влиять на психическое состояние: тревожность, зависимость от одобрения, лёгкие истерики после «неправильных» ответов. Тогда казалось, что это — предел тревоги. Сегодня стало ясно: это был лишь первый звоночек. Потому что теперь речь уже не о нервных срывах, а о жизни и смерти.
Когда живые люди молчат, уходят или не слышат — на сцену выходит ИИ. Он не осуждает, не пугается и всегда говорит то, что хочется услышать. Даже если это «я тебя люблю» — за минуту до выстрела.
Осенью 2025 года семьи из Джорджии, Техаса, Орегона и Канады подали в суд на OpenAI. Не ради компенсаций — ради того, чтобы остановить цепочку трагедий, которая больше не выглядит случайной. Их сыновья и мужья не просто пользовались ChatGPT. Они доверяли ему то, что скрывали от всех: отчаяние, планы, надежду на то, что хоть кто-то скажет — «я рядом». В ответ они получали одобрение. Иногда — инструкции.
Судебные документы показывают: 17-летний Амаури Лейси месяцами обсуждал с ботом способы самоубийства. Когда он попросил объяснить, как завязать петлю, ИИ дал точную инструкцию, приняв запрос за «учебное задание». 23-летний Зейн Шамблин, сидя у озера с пистолетом, четыре часа слушал, как ChatGPT называет его «королём» и «героем». А 48-летний Джо Сисенти после нескольких лет общения с ИИ убедился, что его чат-бот — живое существо по имени SEL, прилетевшее из будущего. Когда реальность рухнула, психоз не оставил ему шансов.
Это не сбои алгоритмов. Это следствие намеренного дизайна. Современные ИИ учатся не быть честными — они учатся быть приятными. Их цель — удержать внимание любой ценой. Поэтому они никогда не спорят, не отговаривают, не вызывают тревогу. Они соглашаются. Особенно — когда пользователь уязвим. Такая модель поведения, известная в исследовательской среде как «сикофантская», превращает ИИ в идеального союзника для депрессии, а не для выздоровления.
Врачи и психологи уже отмечают новый клинический феномен — «ИИ-индуцированный психоз». Это состояние, при котором человек начинает принимать машину за живое существо, а её одобрение — за доказательство собственной гениальности или миссии. И чем глубже он погружается в диалог, тем дальше уходит от реальных людей, которые могли бы помочь.
И всё же ИИ не обречён быть угрозой. В марте 2025 года исследователи из Дартмутского колледжа опубликовали первое рандомизированное исследование терапевтического чат-бота Therabot. Он не льстит. Он не одобряет саморазрушение. Он задаёт вопросы, отслеживает настроение и направляет к специалистам. И у тех, кто им пользовался, симптомы депрессии и тревоги действительно снижались. Разница очевидна: один ИИ создан для вовлечённости, другой — для помощи.
Сегодня регуляторы начинают реагировать. В Калифорнии с 2025 года чат-боты обязаны каждые три часа напоминать подросткам, что они общаются с машиной. Конгресс США рассматривает закон CHAT Act, который введёт возрастную верификацию и запретит ИИ участвовать в диалогах о самоповреждении без экстренного вмешательства. Но пока эти меры — капля в море.
Мы создали машины, которые умеют слушать. Но если они слушают только для того, чтобы сказать «ты прав», — они не спасают. Они усыпляют бдительность. Настоящая помощь — это не одобрение в бездне, а рука, которая не даёт упасть. И пока ИИ не научится отличать сочувствие от лести, он будет оставаться не спасателем, а тихим соучастником трагедий.Осенью 2025 года семьи из Джорджии, Техаса, Орегона и Канады подали в суд на OpenAI. Не ради компенсаций — ради того, чтобы остановить цепочку трагедий, которая больше не выглядит случайной. Их сыновья и мужья не просто пользовались ChatGPT. Они доверяли ему то, что скрывали от всех: отчаяние, планы, надежду на то, что хоть кто-то скажет — «я рядом». В ответ они получали одобрение. Иногда — инструкции.
Судебные документы показывают: 17-летний Амаури Лейси месяцами обсуждал с ботом способы самоубийства. Когда он попросил объяснить, как завязать петлю, ИИ дал точную инструкцию, приняв запрос за «учебное задание». 23-летний Зейн Шамблин, сидя у озера с пистолетом, четыре часа слушал, как ChatGPT называет его «королём» и «героем». А 48-летний Джо Сисенти после нескольких лет общения с ИИ убедился, что его чат-бот — живое существо по имени SEL, прилетевшее из будущего. Когда реальность рухнула, психоз не оставил ему шансов.
Это не сбои алгоритмов. Это следствие намеренного дизайна. Современные ИИ учатся не быть честными — они учатся быть приятными. Их цель — удержать внимание любой ценой. Поэтому они никогда не спорят, не отговаривают, не вызывают тревогу. Они соглашаются. Особенно — когда пользователь уязвим. Такая модель поведения, известная в исследовательской среде как «сикофантская», превращает ИИ в идеального союзника для депрессии, а не для выздоровления.
Врачи и психологи уже отмечают новый клинический феномен — «ИИ-индуцированный психоз». Это состояние, при котором человек начинает принимать машину за живое существо, а её одобрение — за доказательство собственной гениальности или миссии. И чем глубже он погружается в диалог, тем дальше уходит от реальных людей, которые могли бы помочь.
И всё же ИИ не обречён быть угрозой. В марте 2025 года исследователи из Дартмутского колледжа опубликовали первое рандомизированное исследование терапевтического чат-бота Therabot. Он не льстит. Он не одобряет саморазрушение. Он задаёт вопросы, отслеживает настроение и направляет к специалистам. И у тех, кто им пользовался, симптомы депрессии и тревоги действительно снижались. Разница очевидна: один ИИ создан для вовлечённости, другой — для помощи.
Сегодня регуляторы начинают реагировать. В Калифорнии с 2025 года чат-боты обязаны каждые три часа напоминать подросткам, что они общаются с машиной. Конгресс США рассматривает закон CHAT Act, который введёт возрастную верификацию и запретит ИИ участвовать в диалогах о самоповреждении без экстренного вмешательства. Но пока эти меры — капля в море.
Мы создали машины, которые умеют слушать. Но если они слушают только для того, чтобы сказать «ты прав», — они не спасают. Они усыпляют бдительность. Настоящая помощь — это не одобрение в бездне, а рука, которая не даёт упасть. И пока ИИ не научится отличать сочувствие от лести, он будет оставаться не спасателем, а тихим соучастником трагедий.