Растям Алиев, ведущий исследователь Научно-исследовательского университета «Высшая школа экономики» в Санкт-Петербурге, посвятил свою работу изучению феномена «галлюцинаций» в контексте нейронных сетей. Этот феномен, проявляющийся в генерации вымышленных данных, имеет явные параллели с психопатологическими состояниями, такими как шизофрения, что позволяет рассматривать его как важный объект междисциплинарного исследования. На основе своих наблюдений Алиев предложил инновационные методы решения этой проблемы, которые могут значительно повысить надежность и достоверность результатов, генерируемых современными искусственными системами.
Алиев подчеркивает, что современные языковые модели, при обработке сложных запросов, часто интегрируют вымышленные элементы в реальные данные, создавая устойчивую псевдореальность. Для описания этого сложного явления он ввел термин «метасимулякр», который акцентирует внимание на многослойности и многозначности этого феномена в контексте искусственного интеллекта. Метасимулякр, как когнитивная конструкция, позволяет глубже понять механизмы генерации ложной информации и разработать соответствующие стратегии для ее минимизации.
Кроме того, Алиев обращает внимание на ограниченные возможности искусственного интеллекта в области саморефлексии и самокоррекции, что способствует распространению ложных данных. Он призывает к критическому анализу результатов работы нейронных сетей и проведению независимой проверки данных, что является ключевым аспектом обеспечения достоверности и надежности информации.
Тем не менее, Алиев выражает уверенность в возможности создания нейронных сетей, устойчивых к галлюцинациям, что предполагает фундаментальное изучение природы этого явления и механизмов его возникновения. Это позволит разработать эффективные стратегии для снижения ошибок и повышения точности данных, что является приоритетной задачей в области развития искусственного интеллекта, пишет progorodsamara.ru.