Theta EdgeCloud и более 10 000 активных пограничных узлов по всему миру являются основой, которая позволяет Theta выполнять быструю и экономичную вычислительную работу для приложений с искусственным интеллектом и видео по децентрализованной сети. Поскольку команда инженеров Theta продолжает основную разработку EdgeCloud для его первого выпуска 1 мая, ведется отдельная и параллельная научно-исследовательская работа по запуску пилотной версии Theta Edge Node для мобильных устройств Android в ближайшие несколько месяцев.
Цель этого первоначального пилотного проекта - проверить возможность использования до 3,9 млрд активных устройств Google Android для определенных типов рабочих нагрузок, связанных с вычислениями с использованием искусственного интеллекта. Сегодня Android занимает 70% рынка мобильных операционных систем в 190 странах и обеспечивает идеальную платформу для оценки возможностей мобильных процессоров / GPU.
Это также дает возможность настроить таргетинг на более чем 150 млн активных Android-телевизоров по всему миру, работающих под управлением операционной системы AndroidTV от Sony, Sharp, Phillips и многих других брендов. Хотя среднее ежедневное потребление телевизора сегодня составляет около 3 часов, это позволяет использовать устройство большую часть времени для других типов вычислений и обмена данными, тем более что эти всегда подключенные смарт-телевизоры увеличивают возможности ЦП и графических процессоров в течение следующего десятилетия.
Хотя интенсивная вычислительная работа сегодня, как правило, невозможна на мобильных устройствах, ситуация быстро меняется. Например, TensorFlow Lite теперь позволяет осуществлять машинное обучение на устройстве, позволяя разработчикам запускать свои обученные модели на мобильных, встроенных устройствах и компьютерах Интернета вещей. Он поддерживает такие платформы, как встроенный Linux, Android, iOS и MCU. В ближайшем будущем эти устройства смогут обрабатывать все более сложные вычисления и, следовательно, станут значительно более ценными в качестве узлов в Theta EdgeCloud. Современные устройства уже могут выполнять определенные типы заданий на узле Theta Edge, что делает 3,9 млрд устройств Android по всему миру огромным потенциальным дополнением к Theta EdgeCloud. В будущем, благодаря возможности использования GenAI, логического вывода LLM и преобразования текста в изображение, среди других вариантов использования, мобильные устройства с пограничными узлами могут обслуживать рынок искусственного интеллекта, который сегодня оценивается в 200 миллиардов долларов, а в 2028 году, по прогнозам, превысит 1 триллион долларов.
Возможность заключается в переносе вычислительных нагрузок с использованием искусственного интеллекта на edge, поскольку стоимость централизованных ресурсов GPU у всех основных поставщиков облачных услуг стремительно растет, но это остается сложной технической проблемой. Например, NVIDIA недавно анонсировала приватного чат-бота с искусственным интеллектом для настольных компьютеров под управлением RTX на ПК с Windows, оснащенных графическими процессорами NVIDIA GeForce RTX серий 30 и 40 с объемом видеопамяти не менее 8 ГБ. Цель полного запуска Theta EdgeCloud в 2025 году - обеспечить плавную интеграцию высокопроизводительных графических процессоров от облачных провайдеров с миллиардами мобильных и интеллектуальных устройств в дополнение к настольным компьютерам и ноутбукам в единый уровень инфраструктуры искусственного интеллекта. Это открывает обширный рынок для обработки рабочих нагрузок ИИ по требованию, оптимизированных с учетом стоимости, качества обслуживания, конфиденциальности и возможностей устройства.
Команда инженеров Theta рада провести первоначальное тестирование нового экспериментального решения Google для преобразования текста в изображение на устройстве MediaPipeдля Android в рамках пилотного запуска mobile Theta Edge node. Команда оценивает преобразование текста в изображение на основе текстовых подсказок с использованием стандартных моделей распространения, а также настраиваемое преобразование текста в изображение на основе текстовых подсказок с использованием весов адаптации низкого ранга (LoRa). “Создание весов LoRa требует обучения базовой модели на изображениях определенного объекта, человека или стиля, что позволяет модели распознавать новую концепцию и применять ее при создании изображений”, - сообщается на сайте разработчика Google.
Команда Theta надеется, что вы так же взволнованы этой возможностью, как и мы, и приглашает вас принять участие в этом пилотном проекте, поделиться своими отзывами и ресурсами, поскольку мы продолжаем открывать новые возможности в области вычислений с искусственным интеллектом следующего поколения. В качестве заключительного замечания первоначально ожидалось, что распределение TFUEL не будет поддерживаться в мобильном пилотном проекте Edge Node и будет использоваться исключительно для тестирования вычислений в этом технико-экономическом обосновании.