Галлюцинация у нейросетей — это уверенная реакция искусственного интеллекта (ИИ), которая, кажется, не подтверждается данными его обучения, или вымышленные ответы, не имеющие отношения к действительности.
Примеры галлюцинаций:
* предоставление определения несуществующим явлениям;
* предложение списков фиктивных научных исследований;
* генерация биографий людей, которых в действительности никогда не было.
Основная причина галлюцинаций — недостаток данных. ИИ не содержит собственных знаний, а лишь генерирует наиболее вероятностный ответ из загруженного контента. Однако законы вероятности накладывают ограничения: не каждый результат может быть верным.
Важно понимать, что галлюцинации происходят не по воле искусственного интеллекта, он не пытается сознательно обмануть человека. Такие ситуации обусловлены самой сутью нейросетей.