Исследователь ВШЭ Растям Алиев предложил рассматривать ошибки нейросетей как аналог психических расстройств. В своей работе он описывает феномен «алгоритмической шизофрении» и сравнивает склонность искусственного интеллекта к генерации вымышленных фактов с симптомами психических заболеваний. Статья опубликована в журнале «Логос».
По мнению учёного, современные нейросети далеки от образа «холодного» и сугубо рационального андроида. Он отмечает, что такие системы имитируют эмоциональные оттенки и формируют когнитивные искажения. При усложнении запроса доля выдуманных фрагментов в ответах увеличивается, и в результате возникают так называемые «метасимулякры» — псевдореальности, где именно алгоритмы задают рамки восприятия и мышления пользователя.
Алиев подчёркивает, что искусственный интеллект не умеет надёжно выявлять собственные ошибки и при этом демонстрирует высокую уверенность в некорректных ответах. Это, по его мнению, делает опасным полное доверие к нейросетям, особенно в чувствительных сферах, где люди могут искать психологическую поддержку или советы, связанные с психическим здоровьем.
При этом исследователь не исключает возможность создания в будущем систем, почти не склонных к «галлюцинациям». Однако для этого, как он отмечает, необходимо намного лучше понять природу таких сбоев и механизмов формирования вымышленных ответов. Алиев призывает относиться к искусственному интеллекту с осторожностью и регулярно перепроверять полученную от него информацию, сообщает RuNews24.ru.
Читайте также: