3 подписчика
Галлюцинации у нейросетей — это уверенная реакция искусственного интеллекта (ИИ), которая не подтверждается данными его обучения, или вымышленные ответы, не имеющие отношения к действительности.
Примеры галлюцинаций у нейросетей:
* Заведомо ложная информация. Языковые модели могут давать определение несуществующим явлениям, предлагать списки фиктивных научных исследований, генерировать биографии людей, которых в действительности никогда не было.
* Неправильная интерпретация данных. ИИ неверно понимает информацию и делает ошибочные выводы.
* Неуникальный результат. Периодически программы лишь слегка видоизменяют готовый контент, а не создают новый.
* Выполнение задач, которых никто не ставил. В некоторых случаях нейросеть начинает делать то, о чём её не просили.
Галлюцинации происходят не по воле искусственного интеллекта, он не пытается сознательно обмануть человека. Такие ситуации обусловлены самой сутью нейросетей.
Любой ответ нейросети нужно проверять по общим правилам фактчекинга.
Около минуты
18 июля 2024