11 подписчиков
HАLLUCINATE - ГАЛЛЮЦИНИРВАТЬ: новое значение слова в эпоху ИИ
Слово hallucinate раньше означало “галлюцинировать”, то есть видеть или слышать то, чего в реальности нет.
Но с появлением ИИ дело меняется. Теперь это значит: “выдавать неверную, выдуманную или несуществующую информацию так, будто она является правдой”
Слово в этом технологическом значении вошло в список новых слов Oxford Languages.
The AI hallucinated a source that does not exist.
ИИ выдумал источник, которого не существует.
The chatbot gave a confident but hallucinated answer.
Чат-бот дал уверенный, но выдуманный ответ.
Always check facts when using AI. It can hallucinate.
Всегда проверяйте факты при использовании ИИ. Он может “галлюцинировать”
ПОнятно, что ИИ не “лжет” в человеческом смысле.
У него нет намерения кого-то обмануть.
Он просто строит наиболее вероятный по форме ответ, и иногда в результате появляются убедительно звучащие, но ложные факты, цитаты, ссылки или названия исследований. Но все ravno такие галлюцинации бесят.
Поэтому хорошее правило работы с нейросетями:
- просить ссылки на источники;
- проверять даты, имена, цифры и цитаты;
- не использовать ответ ИИ как единственный источник в важных вопросах.
А вы уже сталкивались с тем, что ИИ уверенно выдумывал факт, ссылку или источник?
1 минута
7 октября