Спросил нейросеть про закон, дату или точную цитату и получил ответ таким уверенным тоном, что проверять не хотелось. Зря: самые уверенные ответы врущих нейросетей как раз чаще всего оказываются выдумкой. Разберу, почему это заложено в самой архитектуре моделей, и дам приёмы, которые ловят галлюцинации ИИ раньше, чем они попадут в важный документ. Разбор устроен так: Галлюцинация - это момент, когда нейросеть выдаёт неверный факт уверенным тоном, будто это очевидная правда, а не догадка. Это не единичный сбой вроде опечатки и не поломка сервиса...

Недавно я получил письмо от давней клиентки. Четыре слова в нём перевесили все остальные: «Я вам доверяла, а вы мне не сказали». Я перечитал это письмо дважды. Не потому что не понял — я прекрасно знал, о чём она. Я знал это с самого начала нашей работы. Именно поэтому — промолчал. ✦ ✦ ✦ Несколько лет назад ко мне обратилась женщина — назовём её Елена. Пришла она с тяжёлой ситуацией: на неё колдовали, причём не один человек — целый хоровод недоброжелателей, от родственников до её завистливых коллег по работе...