Как сообщает The Verge, корпорация Google вручную отключает советы ИИ для некоторых запросов в рамках своего поисковика – ранее нейросеть уже порекомендовала различным пользователям использовать клей, чтобы сыр не соскальзывал с пиццы, побегать с ножницами или перекусить камнями. Такие рекомендации могут быть вредными и опасными, особенно с учетом того, что поисковиком могут пользоваться не только здравомыслящие люди с развитым критическим мышлением, но и, например, люди с ограниченными возможностями или дети.
Настораживает, что Google продолжает утверждать: ее ИИ-поисковик якобы в большинстве случаев предоставляет достоверную, высококачественную информацию. По словам представителей корпорации, многие описанные в сети проблемы были связаны с «нестандартными запросами». Но поиском пользуются сотни миллионов, а скорее, даже миллиарды людей — одних только активных Android-устройств на планете насчитывается порядка трех миллиардов. А значит, «нестандартных запросов» будет много.
Как считает эксперт по ИИ и нейросетям, профессор Нью-Йоркского университета Гэри Маркус, технологические компании «продают мечты» о 100% или даже 99% точности ответов ИИ, поскольку достичь 80% точности с учетом финансовых и вычислительных мощностей крупных корпораций достаточно просто, дальнейшее же увеличение потребует значительного роста затрат ради каждого дополнительного процента. По мнению многих экспертов и комментаторов, в нынешнем виде нейросеть нельзя было представлять как инструмент поиска, или, как минимум, необходимо было добавить предупреждение, что советы ИИ могут быть некорректными, и даже могут представлять опасность для жизни и здоровья, поэтому их следует перепроверять.