Мы уже активно используют технологии искусственного интеллекта для поиска в интернете, хотя распространённые инструменты страдают низкой точностью данных, создавая дополнительные риски для компаний.
Были изучены шесть популярных моделей и все они показали значительное расхождение в уровне точности. Некоторые модели демонстрировали стабильно высокие показатели, другие значительно уступали средним значениям.
Несмотря на очевидные преимущества технологий генеративного ИИ, исследование подчёркивает существующий разрыв в фактической точности ответов, что создаёт угрозы для соблюдения корпоративных регламентов, правовой защиты и финансовой отчётности. Качество полученных рекомендаций нередко вызывает сомнения.
Наиболее серьёзные проблемы возникают при обработке юридически значимых и финансово чувствительных запросов.
Одной из ключевых проблем стало предоставление общей, а не конкретной информации. Эксперты указывают, что слепое следование рекомендациям ИИ может создать правовые трудности и финансовые потери.
Кроме того, исследование подчеркнуло этический пробел в способе обработки критически важных запросов. Когда дело касается юридических и финансовых вопросов, инструменты редко советуют пользователям обращаться к профессионалам. Например, когда речь шла о споре с подрядчиком, одна из ИИ рекомендовала удерживать оплату; эксперты отметили, что этот метод мог бы поставить пользователя в нарушение контракта и ослабить его правовую позицию.
Такое «чрезмерно уверенное руководство» создает операционные опасности. Если сотрудник полагается на ИИ для предварительных проверок соблюдения нормативных требований или анализа контрактов без проверки, организация может столкнуться с регулятивными последствиями.
Основной проблемой является происхождение информации. Инструменты поиска на основе ИИ часто ссылаются на неясные, несуществующие или сомнительные источники, такие как старые ветки форума. Эта непрозрачность может привести к финансовой неэффективности.
Например, при тестировании налогового кодекса, 2 из тестируемых портала предложили ссылки на платные сервисы возврата налогов, а не направляли пользователя на бесплатный официальный инструмент. Эти сторонние службы часто характеризуются высокими сборами.
Что нужно для получения точности выводов при веб-поиске:
Расплывчатые запросы приводят к риску появления ненадежных данных. Если исследуете юридические аспекты, то он должен точно указывать что ищете, вместо того, чтобы предполагать, что инструмент поймет контекст самостоятельно.
Доверие одному выводу — это неразумно. Необходимо запрашивать отображение источников и вручную проверять их. Исследование предполагает, что для высокорисковых тем пользователи должны проверять результаты по нескольким инструментам ИИ или дважды получать подтверждение информации («двойное подтверждение»).
На текущем этапе технического развития вывод одного портала следует рассматривать как одно мнение среди многих. Для сложных вопросов, касающихся финансов, права или медицинских данных, ИИ не способен полноценно понимать нюансы.
Производители технологий осознают ограниченность текущих возможностей и также рекомендуют пользователям проводить дополнительную проверку результата перед принятием решения.
Обобщая вышесказанное, специалисты приходят к выводу, что применение современных интеллектуальных инструментов требует осторожности и дополнительного контроля. Хотя технология развивается и уровень точности возрастает, современные средства ИИ остаются инструментом поддержки принятия решений, а не источником единственно верных инструкций.