18 подписчиков
Все модели ИИ несут чушь
Искусственный интеллект, такой как ChatGPT, изменил способы взаимодействия ИИ с людьми, создавая текст, похожий на человеческое письмо. Тем не менее, несмотря на впечатляющие возможности, такие модели часто совершают ошибки, называемые галлюцинациями ИИ. Майкл Таунсен Хикс из Университета Глазго и его коллеги предлагают называть эти ошибки чушью.
Большие модели ИИ предназначены для создания текста путем анализа большого объема данных и использования статистических методов для предсказания следующих слов. В отличие от человеческого мозга, модели ИИ имеют одну цель — генерировать текст, напоминающий человеческий язык. Их основная функция заключается в воспроизведении структур и моделей языка, а не в передаче фактической информации.
Термин «галлюцинация ИИ» предполагает, что модель ИИ пытается понять и передать реальность, но это не так. ИИ не стремится к точности, его главная задача — убедительность текста. Если информация точна, это лишь совпадение.
#AI
Около минуты
11 июня 2024