Источник изображения: Steve Johnson/Unsplash
Компания Google в последние дни вынуждена вручную отключать функцию генерации ответов на основе искусственного интеллекта для некоторых запросов. Причиной этому стали многочисленные жалобы пользователей на странные и потенциально опасные рекомендации, которые давал ИИ-поисковик.
Google больше года тестировал бета-версию поискового сервиса Search Generative Experience, который генерировал краткие ответы на запросы пользователей с помощью ИИ. За это время сервис обработал более миллиарда запросов. Однако на прошлой неделе в социальных сетях появилось множество скриншотов с примерами странных и даже опасных советов от ИИ-поисковика Google.
Среди таких советов рекомендация добавить клей в пиццу для улучшения вкуса, поесть камней в случае голода, а также использовать телефон во время зарядки в ванне. Подобные ответы вызвали шквал критики в адрес Google, и компания начала вручную отключать функцию генерации ответов на основе ИИ для определенных "проблемных" запросов.
Эта ситуация удивила многих экспертов, поскольку Google достаточное время тестировал свою технологию. Более того, руководство компании заявляло об успехах в оптимизации работы ИИ-поисковика и снижении затрат на его функционирование. Google продолжает настаивать, что в большинстве случаев их ИИ работает корректно и предоставляет пользователям "высококачественную информацию". По словам представителей компании, многие примеры с ошибочными ответами являются результатом "нестандартных запросов" или просто были сфабрикованы. Тем не менее, Google активно работает над устранением проблем и улучшением алгоритмов.
Эксперты считают, что проблема кроется в чрезмерных ожиданиях технологических компаний относительно возможностей ИИ. По их мнению, довести точность работы алгоритмов с 80% до 100% является крайне сложной задачей, поскольку для этого ИИ необходимо научиться критически оценивать достоверность информации, подобно человеку.