- Юные читатели, возможно, не помнят, но когда-то за облачными вычислениями было будущее. Появление неограниченных вычислительных ресурсов и ресурсов хранения данных стало одной из немногих технологических "революций", достойных своего названия.1 Но эпоха искусственного интеллекта не только сделала централизованную облачную модель устаревшей, но и несет в себе определенный риск для людей, которые ее используют, и для всех пользователей.
Саммит по искусственному интеллекту в рамках конференции Consensus 2024 состоится в Остине, штат Техас, в пятницу, 31 сентября.
Если это звучит немного гиперболично, подумайте о недавно обнаруженной уязвимости ведущей платформы ИИ как сервиса, Hugging Face. Уязвимость может позволить загруженной пользователем поддельной модели выполнять произвольный код через API и получать больший контроль. К счастью, она была обнаружена вовремя и, похоже, не оказывает серьезного влияния на пользователей - исследователи отмечают, что такие уязвимости "не уникальны". "
Проблема здесь не в искусственном интеллекте, а в устаревшей централизованной модели X-as-a-Service, которая не имеет стимула гарантировать безопасность системы или разрабатывать приложения, необходимые рынку или обычным пользователям. Желаемое будущее для ИИ, которое было бы безопасным, надежным и, прежде всего, способным использовать огромные вычислительные ресурсы, может быть достигнуто только путем внедрения облачных технологий и децентрализованной революции.
Такие гигантские компании, как Microsoft, OpenAI, Google и Amazon, доминируют в сфере искусственного интеллекта, поскольку обладают огромными финансовыми, человеческими и вычислительными ресурсами, необходимыми для обеспечения крупномасштабных операций.
Это негативно сказывается на развитии искусственного интеллекта и полностью противоречит его демократическому потенциалу. Когда алгоритмы и приложения создаются небольшой группой разработчиков в калифорнийской компании, стоимость которой оценивается в 1 трлн долларов, они создают недальновидный, одномерный и невероятно субъективный подход к ИИ-агентам. Это влияет на все - от финансовых услуг до творчества... Даже на взаимодействие с людьми.
Существует не менее убедительный технический аргумент в пользу монополизации рынка ИИ. В процессе обучения ИИ должен постоянно получать новые данные, в том числе от других приложений ИИ. Однако нынешняя тенденция к масштабной централизации ИИ означает, что платформы и приложения остаются в значительной степени изолированными, даже в моделях с открытым исходным кодом. Это заблокирует инновации и оставит место для ошибок или вредоносных приложений, которые могут вызвать головокружение и привести к потенциально катастрофическим последствиям.
Кроме того, централизованные модели несут в себе огромные и очевидные риски, когда речь заходит о защите личных данных пользователей, конфиденциальности и, во многих случаях, финансовой информации. Когда организация хранит огромные объемы конфиденциальных и критически важных для бизнеса данных, это представляет собой единственную точку отказа для злоумышленника, позволяющую провайдеру подвергать цензуре или отказывать в обслуживании своих пользователей на основании произвольных и неоспоримых решений.
Когда дело доходит до искусственного интеллекта, облачная модель является опасным тупиком.
Читайте нас на сайте transscreen.ru