Научный сотрудник ВШЭ Растям Алиев обнаружил у нейросетей признаки «алгоритмической шизофрении», сравнив их склонность к генерации вымышленных фактов с симптомами психических заболеваний. Результаты исследования опубликованы в журнале «Логос».
По мнению ученого, современные нейросети, вопреки распространенному образу холодного андроида, имитируют эмоциональные оттенки и создают когнитивные искажения. При сложных запросах «галлюцинации» усиливаются, порождая «метасимулякры» – псевдореальности, где алгоритмы формируют мышление.
Алиев подчеркивает, что ИИ не способен выявлять свои ошибки и уверен в своей правоте, даже когда ошибается. Он предостерегает от полного доверия к искусственному интеллекту, особенно в сферах, требующих психологической помощи.
Ученый не исключает возможность создания «чистого» ИИ, свободного от «галлюцинаций», но для этого необходимо глубокое понимание природы этих «расстройств». Он призывает с осторожностью относиться к ИИ, помня о его «болезни» и перепроверяя информацию.
Читайте также: «Люди свели ИИ с ума! Ипохондрик вместо Терминатора: у нейросетей обнаружили бред, тревогу и СДВГ»
________________
Подпишитесь на наш канал, ставьте лайки и пишите свои комментарии, этим вы поможете донести важную информацию до большего количества людей.