DuckAssist предоставляет краткую информацию из Википедии с помощью искусственного интеллекта, надеясь избежать галлюцинаций.
Чтобы не остаться в стороне от стремления интегрировать генеративный ИИ в поиск, в среду DuckDuckGo анонсировала DuckAssist, службу сводки фактов на основе ИИ, основанную на технологиях Anthropic и OpenAI. Сегодня он доступен бесплатно в виде широкого бета-тестирования для пользователей расширений браузера и приложений для просмотра DuckDuckGo. Используя модель искусственного интеллекта, компания признает, что DuckAssist может что-то выдумывать, но надеется, что это будет происходить редко.
Вот как это работает: если пользователь DuckDuckGo ищет вопрос, на который можно найти ответ в Википедии, может появиться DuckAssist и использовать технологию искусственного языка для создания краткого отчета о том, что он находит в Википедии, со ссылками на источники, перечисленными ниже. Сводка появляется над обычными результатами поиска DuckDuckGo в специальном поле.
Компания позиционирует DuckAssist как новую форму «мгновенного ответа» — функции, которая избавляет пользователей от необходимости копаться в результатах веб-поиска, чтобы быстро найти информацию по таким темам, как новости, карты и погода. Вместо этого поисковая система представляет результаты мгновенного ответа над обычным списком веб-сайтов.
DuckDuckGo не сообщает, какую языковую модель (LLM) он использует для создания DuckAssist, хотя вполне вероятно, что это какая-то форма OpenAI API.
DuckAssist отвечает на вопросы, сканируя определенный набор источников — на данный момент это обычно Википедия и иногда связанные сайты, такие как Britannica, — используя активное индексирование DuckDuckGo. Поскольку используется технология естественного языка от OpenAI и Anthropic, чтобы обобщить то, что мы находим в Википедии, эти ответы должны быть более непосредственно связаны с вашим фактическим вопросом, чем традиционные результаты поиска или другие мгновенные ответы.
Поскольку основным преимуществом DuckDuckGo является конфиденциальность, компания заявляет, что DuckAssist является «анонимным», и подчеркивает, что ни с кем не делится историей поиска или просмотра. «Мы также сохраняем анонимность вашей истории поиска и просмотров для наших партнеров по поисковому контенту, — пишет Вайнберг, — в данном случае OpenAI и Anthropic, которые используются для обобщения предложений из Википедии, которые мы идентифицируем».
Если DuckDuckGo использует OpenAI GPT-3 или ChatGPT API, можно опасаться, что сайт потенциально может отправлять запросы каждого пользователя в OpenAI каждый раз, когда он вызывается. Но, читая между строк, кажется, что только статья из Википедии (или отрывок из нее) отправляется в OpenAI для обобщения, а не сам поиск пользователя. Мы также обратились к DuckDuckGo за разъяснениями по этому вопросу.
DuckDuckGo называет DuckAssist «первой из серии генеративных функций с помощью искусственного интеллекта, которые мы надеемся развернуть в ближайшие месяцы». Если запуск пройдет успешно — и никто не нарушит его состязательными подсказками — DuckDuckGo планирует развернуть эту функцию для всех пользователей поиска «в ближайшие недели».
DuckDuckGo - риск галлюцинаций «значительно уменьшился».
Как мы уже рассказывали, LLM имеют тенденцию давать убедительные ошибочные результаты, которые исследователи ИИ называют «галлюцинациями» в качестве термина в области ИИ. Галлюцинации может быть трудно обнаружить, если вы не знаете, на какой материал ссылаются, и они возникают частично из-за того, что LLM в стиле GPT от OpenAI не различают факты и вымысел в своих наборах данных. Кроме того, модели могут делать ложные выводы на основе данных, которые в остальном являются точными.
В этом отношении DuckDuckGo надеется избежать галлюцинаций, опираясь на Википедию как на источник: «попросив DuckAssist только обобщить информацию из Википедии и связанных с ней источников, — пишет Вайнберг, — вероятность того, что это «галлюцинирует» — то есть просто придумать что-нибудь — сильно уменьшается».
Хотя опора на качественный источник информации может уменьшить количество ошибок из-за ложной информации в наборе данных ИИ, она может не уменьшить количество ложных выводов. И DuckDuckGo возлагает бремя проверки фактов на пользователя, предоставляя ссылку на источник под результатом, сгенерированным ИИ, который можно использовать для проверки его точности. Но он не будет идеальным, и генеральный директор Вайнберг признает это: «Тем не менее, DuckAssist не будет постоянно давать точные ответы. Мы ожидаем, что он будет делать ошибки».
По мере того, как все больше фирм внедряют технологию LLM, которая может легко ввести в заблуждение, может потребоваться некоторое время и широкое распространение, прежде чем компании и клиенты решат, какой уровень галлюцинаций допустим в условиях искусственного интеллекта.