Научный сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург Растям Алиев представил исследование, в котором проанализировал склонность больших языковых моделей к генерации вымышленных фактов, или «галлюцинациям». В своей статье «Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху» учёный проводит параллель между этим явлением и симптомами психических расстройств, сообщает портал «Научная Россия».
Растям Алиев отметил, что распространённый образ ИИ как холодного и неэмоционального андроида соответствует скорее расстройству аутистического спектра. Однако в реальности нейросети демонстрируют иное поведение: они интерпретируют эмоциональные оттенки текста и создают когнитивные искажения. Учёный указывает, что если попросить ИИ отвечать в духе человека с шизофренией, точность его ответов может возрастать, будто он начинает лучше улавливать детали и знаки.
Особенно ярко галлюцинации проявляются при сложных запросах. Не находя готового ответа, нейросеть комбинирует факты из своей базы знаний с собственной «фантазией». Этот феномен исследователь называет метасимулякром — псевдореальностью, в которой алгоритмы формируют новые способы мышления, что рассматривается как ещё один признак «психических особенностей» ИИ. Примером метасимулякра Растям Алиев называет сгенерированные изображения реальных людей или мест с множеством искажений.
Важной чертой искусственного интеллекта учёный считает его неспособность распознавать собственные ошибки. Большие языковые модели всегда уверены в правильности своего ответа, даже если он ошибочен. Когда пользователь указывает на неточность, нейросеть не признаёт ошибку, а начинает подкреплять свой ответ новыми аргументами, которые также могут являться галлюцинациями. Растям Алиев предостерегает, что полностью доверять искусственному интеллекту по-прежнему нельзя, особенно в важных сферах, таких как психологическая помощь или профессиональная деятельность.
В перспективе исследователь не исключает возможность создания «чистого» искусственного интеллекта, лишённого склонности к галлюцинациям. Однако путь к этому, по его мнению, лежит через глубокое междисциплинарное изучение природы этих алгоритмических «расстройств».