Уверенно — не значит верно
Уверенность производит впечатление. Человек говорит спокойно, приводит аргументы, называет даты и фамилии — и мы невольно начинаем ему доверять. А если перед нами ещё и аккуратно оформленный текст с длинными списками и подробными объяснениями, сомневаться становится как-то неудобно. Кажется, ну не может же всё это быть ошибкой! С нейросетями работает тот же механизм. Просишь помочь разобраться в вопросе, а в ответ получаешь стройное объяснение, конкретные цифры, ссылки и даже список литературы. Всё выглядит солидно...