Генеративный искусственный интеллект продолжает сталкиваться с проблемой искажений. Хотя многие ответы на запросы пользователей в значительной степени точны, такие программы, как ChatGPT, Google Gemini и Microsoft Copilot, по-прежнему склонны предлагать вымышленную информацию и факты. Сама по себе эта проблема не является большой, но она усугубляется тенденцией этих программ ИИ создавать, казалось бы, достоверные, но на самом деле вымышленные источники. Но как бы это ни раздражало миллионы пользователей, это становится серьезной проблемой для людей, которым доверяют предоставлять надежную и достоверную информацию: библиотекарей.
«Нашим сотрудникам гораздо сложнее доказать, что уникальной записи не существует», — сказала Сара Фоллс, библиотекарь по взаимодействию с научными исследованиями в Библиотеке Вирджинии, в интервью Scientific American.
Фоллс подсчитала, что около 15 процентов всех справочных вопросов, поступающих в ее учреждения, составлены с помощью генеративного ИИ, причем некоторые из них содержат вымышленные цитаты и источники. Эта возросшая нагрузка на библиотекарей и учреждения настолько велика, что даже такие организации, как Международный комитет Красного Креста, предупреждают об этой проблеме.
«Особый риск заключается в том, что инструменты генеративного ИИ всегда выдают ответ, даже когда исторические источники неполны или ничего не говорят», — предупредил МККК в публичном уведомлении ранее в этом месяце. «Поскольку их цель — генерировать контент, они не могут указать на отсутствие информации; вместо этого они будут выдумывать детали, которые кажутся правдоподобными, но не имеют под собой оснований в архивных документах».
Вместо того чтобы запрашивать у такой программы, как ChatGPT, список отчетов МККК, организация предлагает напрямую взаимодействовать с их общедоступным информационным каталогом и научными архивами. Эту же стратегию следует применять к любому учреждению. К сожалению, пока больше людей не поймут ошибочность генеративного ИИ, бремя проверки информации останется за архивистами.
«Вероятно, мы также будем сообщать нашим пользователям о необходимости ограничить время, затрачиваемое на проверку информации», — предупредил Фоллс.
Есть веская причина, почему библиотекари оставались неотъемлемой частью общества на протяжении тысячелетий. В отличие от генеративного ИИ, они обучены критически мыслить, искать ответы и, что наиболее важно, признавать свои ошибки.
