В последнее время в мире ИИ появилась новая веселая тенденция: пользователи заметили, что можно ввести вымышленную фразу в Google и попросить объяснить её значение. После этого AI Overview с готовностью начинает предлагать свои версии.
Историк Грег Дженнер запустил этот модный тренд, когда на платформе Bluesky спросил Google о значении фразы "Нельзя облизывать барсука дважды". AI Overview с энтузиазмом разъяснил, что это значит: "вы не сможете обмануть человека во второй раз, если он уже попался на крючок". Объяснение звучит довольно разумно, хотя и игнорирует тот факт, что данная идиома появилась только благодаря вирусному запросу.
С тех пор пользователи получают удовольствие от объяснений AI Overview таких фраз, как "Кальмар в вазе не скажет ничего плохого" (что, по мнению ИИ, подразумевает, что нечто вне своей привычной среды не может причинить вред) или "Ты можешь взять собаку на пляж, но не сможешь отправить её в Швейцарию" (что, с точки зрения AI Overview, является очевидным утверждением о трудностях международных поездок с питомцами).
Однако не все фразы работают, так как некоторые из них не приводят к ответам от AI Overview. "Это совершенно непоследовательно," — отметил когнитивный ученый Гэри Маркус в интервью изданию Wired, — "и это именно то, что можно ожидать от GenAI."
Дженнер подчеркивает, что, несмотря на развлечение, это служит предупреждением о рисках, связанных с чрезмерным доверием к материалам, созданным ИИ, таким как AI Overview. "Это сигнал о том, что одна из основных функций Google – проверка фактов, подтверждение источников или восстановление наполовину забытой информации – станет гораздо сложнее, если ИИ предпочтёт легитимизировать статистику вместо того, чтобы искать настоящую правду," — написал Дженнер.
Это не первый случай, когда пользователи указывают на ограничения информации, предоставляемой ИИ, в частности AI Overview. Когда AI Overview только запустили, он утверждал, что людям стоит есть по одному маленькому камню в день и что можно использовать клей в пицце, хотя эти ответы быстро убрали.
С тех пор Google в своем заявлении отметила, что большая часть информации от AI Overview полезна и достоверна, и они продолжают собирать отзывы о своем ИИ-продукте.
На данный момент стоит помнить, что информация, появляющаяся в блоке AI Overview выше результатов поиска Google, может быть неточной, поэтому всегда полезно её проверять.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Вы также можете найти наши материалы в:
- Telegram: https://t.me/gergenshin
- Youtube: https://www.youtube.com/@gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru