Сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург Растям Алиев изучил, почему искусственный интеллект склонен к галлюцинациям. В своей работе «Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху» он сравнивает вымышленные ответы нейросетей с симптомами психических расстройств.
Результаты исследования вышли в журнале «Логос». Алиев отмечает, что общество долго представляло ИИ как рационального и бесстрастного андроида, что, по его словам, больше напоминает описание расстройств аутистического спектра. На практике нейросети ведут себя иначе: они улавливают эмоциональные оттенки текста и создают своеобразные когнитивные искажения. Исследователь пояснил, что если попросить модель отвечать так, как будто у неё шизофрения, её ответы становятся точнее — словно она внимательнее относится к деталям.
При этом сложные задачи усиливают галлюцинации: не находя готовой информации, нейросеть смешивает известные данные с вымышленными элементами. Такой эффект, по мнению автора, формирует новое понятие — метасимулякр, псевдореальность, в которой алгоритмы начинают влиять на человеческое мышление. Примером он назвал изображения людей или мест, созданные ИИ и заметно искажённые.
Ключевой особенностью языковых моделей исследователь считает их неспособность видеть собственные ошибки. Они уверены в правильности ответа, даже когда он неверен, а при замечаниях пользователя приводят дополнительные аргументы, которые также оказываются плодом галлюцинаций. Поэтому, как подчёркивает Алиев, доверять искусственному интеллекту без проверки нельзя.
Он напомнил, что ИИ всё чаще становится частью повседневности — люди используют его даже в ситуациях, требующих психологической поддержки. Именно поэтому важно относиться к нему с осторожностью и всегда проверять информацию.
В завершение исследователь отметил, что со временем может появиться ИИ, почти не склонный к галлюцинациям. Однако достичь этого возможно только через междисциплинарное изучение природы таких «сбоев», чему и посвящена его работа.
Источник: Naked Science
Рекомендуем также: