Самое неприятное в нейросетях — даже не то, что они иногда ошибаются. Ошибаются все. Неприятно другое: нейросеть может ошибиться очень убедительно. Без пауз. Без сомнений. Красивыми фразами. С цифрами. С датами. Иногда даже со ссылкой на несуществующий документ. И человек читает ответ и думает: «Ну раз так подробно написано — наверное, правда». Вот здесь и начинается проблема. У этого явления есть популярное название — галлюцинации нейросети. В технической литературе также используется термин confabulation — когда генеративная система уверенно выдаёт ложную или ошибочную информацию...