Беда не в том, что ИИ выдумывает. Хотя, конечно, выдумывает – хоть и сильно меньше в последнее время. Беда в том, что многие люди тупее железки, с которой пытаются работать.
Для примера. Вот моя базовая инструкция на вопросы о шаманизме.
"Привет! Сейчас мы будем обсуждать русский шаманизм. Под русским я имею в виду шаманизм народов Сибири и соседних, располагающихся на территории РФ и неподалеку (Монголия, Север Китая). И строго в академической его интерпретации – настоящие академические научные работы исследователей и этнографов с дипломом. Твои ответы должны иметь под собой строгий академический базис, если не в виде ссылочного аппарата на каждое слово, то по крайней мере, как мощный логический фундамент. Всю нашу беседу придерживайся это парадигмы. Если где-то для иллюстрации или расширения понимания мне понадобится шаманизм других народов или не-академические данные (типа неошаманизма, Кастанеды и т.п.) то: а) Я укажу на это абсолютно четко б) Ты дашь ответ в указанных широких рамках, а потом вернешься к базовой логике и инструкции. Прям прикуй себя к этой инструкции. в) Ну и конечно же – никакого креатива от себя без моей просьбы. Запомни эту инструкцию.
И только сделав контрл-в, я, уже в свободной форме, пишу свой вопрос.
И я не видел вранья или явных разночтений между разными беседами. То есть нет сбивок во внутренней логике - даже через пару месяцев и с другого аккаунта ответы будут про одно и то же, без выдумок. Также не замечено разночтений и между ответами ЖПТ и советской этнографией, которую параллельно читаю.
Ну а если дурачок просто спросит за тему, без этого ряда оговорок и инструкций, вот он и получит кашу из реддитов, видосов с ютуба, безумных американских неошаманов-леваков и форумов эзотерики. Мало того ИИ еще и дыры в повествовании заткнёт собственными вольными додумками.
А потом этот же дурачок, получив ушат помоев в качестве ответа, бежит по соцсетям и форумам хаять нейросети вместо того, чтобы немного подумать головой и чему-то научиться, хотя бы минимально.