OpenAI выпустила научную работу, диагностирующую, почему ChatGPT и другие языковые модели периодически просто придумывают факты — или, как это называют в мире искусственного интеллекта, «галлюцинируют». Но, к сожалению, эта проблема может быть попросту неразрешимой. Портал theconversation.com рассказал, почему. Исследование, опубликованное OpenAI, предоставляет подробное математическое объяснение характерной склонности ИИ лгать и выдавать ложную информацию. Она демонстрирует, что это не просто неприятный...

В последней исследовательской работе OpenAI точно диагностируется, почему ChatGPT и другие большие языковые модели могут что-то выдумывать, известное в мире искусственного интеллекта как «галлюцинация». Это также показывает, почему проблема может быть неустранимой, по крайней мере, в том, что касается потребителей. В статье дается самое строгое математическое объяснение того, почему эти модели уверенно утверждают ложь. Это демонстрирует, что это не просто неудачный побочный эффект того, как в настоящее время обучается ИИ, но математически неизбежно...