Новость очень коротенькая. но тем не менее, крайне знаковая. Впрочем. например, лично я ну ничуть не удивлён, а вы?
"Британская газета The Sky News выпустила не слишком комплиментарную статью о ChatGPT — где заместитель редактора по политическим вопросам Сэм Коутс поделился своим опытом работы с языковой моделью.
Автор известного подкаста Politics at Sam and Anne's, который регулярно выходит на Sky News, использовал ChatGPT для создания стенограмм передачи. Как отмечает Коутс, ИИ довольно частно оперировал ложными фактами, а когда его обвинили во вранье, «удвоил ставки и стал грубо отвечать».
Внутренние тесты, проведенные OpenAI, владельцем ChatGPT, также показали, что последние версии ChatGPT часто «галлюцинируют» — придумывают ответы, которые просто не соответствуют действительности.
Было обнаружено, что модель o3 «галлюцинирует» в 33% ответов; версия o4-mini показала еще худшие результаты, генерируя вымышленную информацию в 48% случаев.
«Я спросил ChatGPT о том, почему он лжёт — сначала он утверждал, что это временно и с каждым днём он убучается и становится всё лучше, и только когда я настоял, чтобы он посмотрел на статистику, признал, что все стало хуже… ИИ — это потрясающий инструмент, но еще слишком рано доверять ему», — прокомментировал Сэм Коутс."