Когда алгоритмы фантазируют: почему ИИ склонен к галлюцинациям
Склонность искусственного интеллекта к генерации вымышленных фактов стала предметом научного анализа. Эту проблему исследовал научный сотрудник Лаборатории критической теории культуры НИУ ВШЭ - Санкт-Петербург Растям Алиев. Свои выводы он представил в статье "Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху", опубликованной в журнале "Логос". Учёный предлагает рассматривать так называемые галлюцинации больших языковых моделей - ситуации, когда нейросети уверенно выдают недостоверную информацию, - через призму психопатологии...