Самоуспокоенность по поводу ошибок ИИ сделает поиск еще хуже. Google следует закрыть свою новую функцию.
В течение многих лет «гуглить» означало получать огромные данные из Интернета. Сегодня это означает пробираться сквозь рекламу, спам и, в последнее время, крайне неточные ответы ИИ. Новая функция «Обзор искусственного интеллекта», представленная Google на прошлой неделе, привела к шквалу ошибок, которые, должно быть, заставили генерального директора Alphabet Inc. Сундара Пичаи съежиться. Когда его спросили о том, как сыр соскальзывает с пиццы, рекомендовали пользователю это нанести клей. Другому навело на мысль, что питон — млекопитающее. Хуже того: ИИ Google сказал одному пользователю, который «чувствовал депрессию», что он может спрыгнуть с моста Золотые Ворота.
Пичаи возился с одним из самых успешных и прибыльных технологических продуктов всех времен и сделал его совершенно ненадежным и даже опасным. Обратный отсчет начался до того момента, когда он отключится от сети. Чем скорее он это сделает, тем лучше.
На данный момент Google заявил, что совершенствует свою поисковую службу искусственного интеллекта с каждым новым сообщением о галлюцинации (которая, согласно моему ленте в Твиттере, превращается в наводнение). Представитель Google сообщил The Verge, что ошибки происходят «в целом очень необычные запросы и не отражают опыт большинства людей». Это плохое оправдание для компании, которая гордится организацией мировой информации. А редкие поисковые запросы должны давать надежные результаты, поскольку подавляющее большинство поисковых запросов Google состоят из длинного хвоста необычных запросов.
Это ошеломляющий поворот для компании, которая когда-то была настолько осторожна, что отказалась выпустить созданную ею технологию генеративного искусственного интеллекта, которая как минимум на два года опередила ChatGPT от OpenAI Inc. С тех пор он уступил гонке, развязанной Microsoft Corp. и OpenAI, которые разжигают одно противоречие за другим. На прошлой неделе OpenAI выпустила новую версию ChatGPT, намеренно приуроченную к запуску искусственного интеллекта Google на следующий день. Но в спешке Сэм Альтман провалил выпуск и поссорился со Скарлетт Йоханссон.
Стива Джобса Фраза 2011 года «Это просто работает» олицетворяла эпоху, когда планкой для технологических продуктов была надежность. Но чем больше технологические компании будут демонстрировать, насколько генеративный ИИ не работает, тем труднее им будет доказать его полезность как корпоративным клиентам, так и потребителям.
Даже Илон Маск, который вот-вот получит 6 миллиардов долларов для своего стартапа xAI, не использует инструменты генеративного искусственного интеллекта в своих собственных компаниях SpaceX и Starlink, потому что они продолжают совершать ошибки. «Я буду задавать ему вопросы о парадоксе Ферми, о конструкции ракетных двигателей, об электрохимии», — заявил он на конференции Института Милкена в начале этого месяца. «И до сих пор ИИ ужасно отвечал на все эти вопросы».
Если Google продолжит работу с обзором ИИ и сохранит эту функцию, одним из результатов, очевидно, станет еще больше дезинформации. Во-вторых, почти так же, как мы привыкли просматривать SEO-спам и спонсируемую рекламу, мы будем акклиматизироваться и к дурацким ошибкам, которые допускает его ИИ. Мы привыкнем к еще более посредственному сервису, потому что других вариантов очень мало. (Доля Google на мировом рынке поиска упала до 82% с 87% примерно десять лет назад.) В эту новую эпоху мы смиряемся с некачественным программным обеспечением, которое когда-то считалось преобразующим мир, и которое требует постоянной проверки фактов.
Галлюцинации — не новая проблема, но, похоже, к нашему вреду мы к ним привыкаем. Когда в феврале 2023 года в самой первой демо-версии Bard от Google были обнаружены ошибки, акции Alphabet упали на 7%, уничтожив стоимость компании на 100 миллиардов долларов. В пятницу, когда все больше постов о последних оплошностях компании в социальных сетях стали вирусными, они открылись почти на 1%. Уолл-стрит, похоже, это не волнует. Гугл?
Мы узнаем, приостановит ли Пичаи свою новую функцию искусственного интеллекта для дальнейших доработок, как он это сделал с генератором изображений Gemini в феврале, и если да, то когда. Это было бы еще одним унизительным отступлением, но чтобы вернуть технологии на путь «просто работы», ему следует просто сделать это.