В настоящее время почти все компании, хотя бы косвенно связанные с компьютерными технологиями, одержимы идеей генеративного искусственного интеллекта, что привело к появлению некоторых интересных и полезных сервисов. Однако стоимость доступа к некоторым из этих услуг удивительно высока. Обучение и поддержка моделей искусственного интеллекта обходятся очень дорого, но новое исследование ученых из Университета Сиднея и Калифорнийского университета предлагает потенциально более дешевый способ. Специалисты создали "клубок" из серебряных нанопроводов, который может оказаться гораздо более эффективным решением для запуска нейронных сетей.
Современные системы искусственного интеллекта, такие как ChatGPT, работают на огромных массивах ускорителей искусственного интеллекта, по сути, графических процессорах с огромным количеством видеопамяти и без видеовыхода. Это очень дорогое оборудование (вам повезет, если вы найдете хотя бы один Nvidia H100 за 30 000 долларов), а электроэнергия, необходимая для поддержания его работы, требует значительных постоянных затрат. Предложенный исследователями подход на основе нанотехнологий имеет потенциал для более эффективного использования ресурсов.
Используя передовые нанотехнологии, команда ученых создала сети из серебряных нанопроволок, каждая прядь которых составляет примерно одну тысячную ширины человеческого волоса. Провода расположены случайным образом, образуя сеть, в которой нити пересекаются и взаимодействуют, как синапсы в мозге. Это один из видов нейроморфных вычислений, где провода ведут себя как физическая нейронная сеть, то есть аппаратная, а не программная сеть.
Случайное расположение серебряных нанопроводов под микроскопом.
Согласно исследованию, опубликованному в журнале Nature Communications, нанопровода демонстрируют поведение, подобное реальному мозгу, когда электрические сигналы проходят через сеть нейронов. Тысячи пересечений между проводами изменяют сигналы в ответ на электрические импульсы, и эта реакция происходит в реальном времени. Таким образом, по мнению специалистов, нанопроволочные сети идеально подходят для машинного обучения в онлайн-режиме.
При таком виде обучения нет необходимости объединять данные в большие пакеты, вот почему ИИ-ускорители имеют десятки гигабайт оперативной памяти. Подача данных в виде непрерывного потока просто более эффективна. Даже на этом раннем этапе нанотехнологический подход работает для некоторых основных видов деятельности в области машинного обучения. Команда преобразовала набор рукописных данных в электрические сигналы и передала их в свою аппаратную сеть, которая смогла научиться распознавать написанные числа. Они также протестировали задачи по запоминанию чисел, и модель смогла это сделать.
Пройдет некоторое время, прежде чем сети нанопроводов смогут конкурировать с мощными ускорителями искусственного интеллекта, но со временем могут появиться приложения, которым не нужна такая мощность. Команда ученых считает, что о нейроморфных сетях скоро будут говорить во всем мире.
