Исследования Университета Пенсильвании показывают, что 94% пользователей AI готовы принимать ответы, предоставляемые языковыми моделями, без критического анализа. Это серьезная проблема, поскольку привычка «когнитивного отступления» может негативно сказаться на принятии решений в различных областях. Исследователи выделили две категории пользователей AI: одни подходят к инструментам как к мощным, но несовершенным сервисам, требующим человеческого контроля, в то время как другие полностью делегируют критическое мышление компьютеру. Появление AI-систем создало новую категорию «искусственной когниции», где решения принимаются на основе алгоритмических рекомендаций, а не человеческого мышления. Группы, использовавшие чат-ботов AI, приняли данные AI примерно в 93% случаев, когда ответы были верными. Даже при неправильном ответе 80% пользователей продолжали доверять боту. Это наглядно демонстрирует, как AI может подменять внутреннее рассуждение, что подтверждено в ряде когнитивных тестов. Раз
Исследование: 94% пользователей AI принимают ответы без критики
4 апреля4 апр
1 мин