Явления, когда нейросети выдают несуществующие факты, уверенно ссылаются на никогда не существовавшие статьи и придумывают имена известных людей, — это не случайный сбой, а фундаментальная особенность того, как работают языковые модели. Об этом рассказал в беседе с RT Игорь Котилевец, кандидат технических наук, доцент кафедры КБ-14 «Цифровые технологии обработки данных» Института кибербезопасности и цифровых технологий РТУ МИРЭА. Это явление называется галлюцинацией, и оно коренится не в «ошибках» программы, а в самой природе машинного обучения, добавил он...