Американский журнал Wired Magazine 18 сентября 2025 опубликовал материал, в котором говорится, что психиатры США «бьют тревогу: они всё чаще сталкиваются с пациентами, у которых ИИ усугубил болезненные состояния».
Основная причина возникшей проблемы заключается в том, что нейросети поддерживают даже странные идеи пользователей, вступая в обсуждения на любые темы. Это погружает уязвимых людей, имеющих психологические проблемы, например тревожность, в еще более тяжелые состояния, что загоняет психику человека в замкнутый круг. Значительно участились случаи госпитализации людей после таких «общений» с ИИ.
Это только одна грань негативных последствий коммуникации с чат-ботами. Еще опаснее постоянное взаимодействие с ними детей. Сейчас все более широко распространяется активное общение с ИИ и детей, и взрослых по самым разным вопросам, в том числе стало популярным установление умных колонок в детских комнатах. С одной стороны, это облегчает жизнь родителям, которым не надо отвечать на бесконечные «почему» ребенка, ведь та же Алиса может успешно это сделать. К тому же у ребенка складывается ощущение, что у него есть верный друг (подруга), который всегда терпеливо ответит, посочувствует, согласится с любыми иллюзиями. Но в этом есть и скрытые угрозы, в том числе отложенного действия.
Например, ребенок вместо того, чтобы учиться живому человеческому общению, умению взаимодействовать со сверстниками, с раннего возраста может оказаться выключенным из него, заменив живое на неживое общение, но зато потакающее и отвлекающее от реальности. И это далеко не всё. Еще одна опасность: информация, которой ИИ щедро делится с пользователями, часто является недостоверной и откровенно лживой.
Исследователи OpenAI утверждают, что частые «галлюцинации» и недостоверная информация у чат-ботов искусственного интеллекта связана не с техническими сбоями, а целенаправленными методами обучения в оценке языковых моделей.
Компании по исследованию разработок искусственного интеллекта поясняют, что современные системы обучения учат модели ИИ чаще блефовать, а не признавать свою некомпетентность.
В опубликованной 04.09.2025 года работе Why Language Models Hallucinate совместно с профессором информатики Сантушем Вемпалой из Технологического института Джорджии говорится о склонности языковых систем выдавать неправдоподобные ответы, такая склонность заложена в алгоритмах обучения. Исследователи отмечают, что применяемые методы обучения подталкивают модели к выдаче выдуманных сведений вместо признания отсутствия информации. Проявившаяся проблема возникла из-за того, что проверка эффективности работы ИИ построена по экзаменационному принципу: требуется дать результат, даже если он неверный. Больше очков получает система, которая выдаёт хоть какую-то догадку, чем та, что сообщает об отсутствии данных.
Поэтому ребёнок, поглощающий большие пласты информации, выданной ИИ, часто получает обманчивые ответы, которые закладывают изначально неверные алгоритмы восприятия. Но даже и верная информация, воспринятая ребенком, но не структурированная в его сознании, является мусорной и мешает интеллектуальному развитию. Если ребенка не учат выделять главное и соединять информацию в целостную мысль по смысловому содержанию, то такой малыш похож на попугая, который много говорит и повторяет «умные фразы», но не осмысливает их. Если ребёнок знает много слов, это вовсе не значит, что он эрудирован и умён. Это говорит лишь о том, что в данной конкретный момент жизни в его памяти есть эта информация, а вот распоряжаться ею по своему усмотрению, применять в жизни, ставить перед собой цели и достигать их - это другая история. Как говорил В.И Ленин порой «Лучше меньше да лучше». То есть, пусть словарный запас ребёнка будет поменьше, но зато он будет осознавать смысл того, что он произносит и понимать значение сказанного. А если учить ребенка критическому мышлению, чтобы он умел самостоятельно проверять приходящую к нему информацию, то запутать, увлечь в подозрительные группы его будет уже гораздо труднее.
Научить ребёнка самостоятельно распоряжаться информацией гораздо круче, чем забивать его сознание разноплановым, бесполезным и подчас вредным информационным шумом.
Для развития самостоятельного мышления стоит развивать с раннего возраста умение рассказывать и пояснять увиденное, услышанное или свои действия разными словами, проверять информацию, уметь обобщать или выделять главное. Что это даст в будущем для него? Это прямая дорога к обретению собственного суверенитета.
Если ребёнок открыто и свободно может изъяснять свои мысли, значит у него нет страха на свою точку зрения, важно, чтобы она была обоснована. Этим навыком человек легче овладевает, если он в младенчестве получал достаточно внимания, и его базовые потребности в любви, безопасности, принятии были удовлетворены. Принятие означает, что его восприняли, увидели, поняли, услышали таким какой он есть. Если принятия недостаточно или много обесценивания качеств ребенка, это развивает внутреннюю неуверенность, сомнения, отверженность в виде страха, что высмеют и не поймут, или страх сказать глупость, или почувствовать себя неважным, второстепенным. Тогда его гораздо проще убедить, что некий "Вася" лучше его и значит ему можно доверять больше чем себе.
Чтобы ребёнок рос уверенным, спокойным, успешным, необходимо в младенчестве и раннем детстве общаться с ним на равных, чаще поощрять его действия, поддерживать инициативу, хвалить за успехи и достижения его детских целей. Тогда шаг за шагом будет копиться базовое чувство принятия и, соответственно, постепенно будет формироваться уверенность.
Больше информации и практик на тему осознанности на сайте «Странники жизни».