Как рост быстродействия суперкомпьютеров влияет на эволюцию искусственного интеллекта, что такое гибридный интеллект и зачем ученые хотят объединить искусственные и естественные нейросети? Говорим с академиком РАН Игорем Каляевым.
— В рамках научной программы Национального центра физики и математики, НЦФМ, вы отвечаете за два направления: «Искусственный интеллект и большие данные в технических, промышленных, природных и социальных системах» и «Национальный центр исследования архитектур суперкомпьютеров». Как они связаны?
— Одно без другого развиваться уже не может. Например, большая языковая модель ChatGPT3 использует более 175 млрд варьируемых параметров, для ее обучения потребовалось около 420 Гб текста. Все творения Шекспира весят 5,5 Мб. Если вы будете читать по странице в минуту 24 часа в сутки, вам понадобится 400 лет, чтобы достичь уровня «образованности» ChatGPT3. Такие возможности модели дает суперкомпьютер Azure AI — 285 тыс. процессорных ядер, 10 тыс. GPU (графических процессоров. — «СР») и производительность 30 петафлопс — 30 квадриллионов операций в секунду.
— То есть большинство достижений искусственного интеллекта напрямую связано с ростом мощности суперкомпьютеров?
— Именно так. Например, в 1997 году суперкомпьютер Deep Blue производительностью 1 терафлопс (триллион операций в секунду. — «СР») обыграл чемпиона мира по шахматам. Суперкомпьютер Watson производительностью 1 петафлопс в 2011‑м победил в американской викторине «Своя игра». На суперкомпьютере производительностью 10 петафлопс была создана программа AlphaGo, которая в 2016‑м обыграла чемпиона мира по го.
С другой стороны, искусственный интеллект может существенно повысить эффективность суперкомпьютеров. У них, как правило, сложная, гетерогенная архитектура с широким спектром вычислительных ресурсов разного типа, эффективно загружать которые все сложнее. Это обстоятельство, наложенное на замедление закона Мура, ведет к общему снижению темпов развития суперкомпьютерных технологий. До 2010 года оно было практически линейным, после стало замедляться. С технологиями искусственного интеллекта можно оптимально распределять гетерогенные ресурсы суперкомпьютера по задачам, прогнозировать эффективность решения прикладных задач на тех или иных ресурсах, подстраивать параметры вычислительного задания под архитектуру суперкомпьютера и проч.
Например, внедрение технологии интеллектуального мультиагентного диспетчирования гетерогенных вычислительных ресурсов позволило нам повысить эффективность суперкомпьютерного центра «Политехнический» на 15 %.
В рамках НЦФМ оба направления развиваются в тесной взаимосвязи. С одной стороны, мы разрабатываем технологии искусственного интеллекта, основанные в том числе на нейроморфных принципах, которые позволят на порядок повысить производительность суперкомпьютерных вычислений, с другой — архитектуры суперкомпьютеров, которые позволят существенно увеличить скорость машинного обучения и развития искусственного интеллекта.
Полный материал читайте в «Стране Росатом»: https://clck.ru/3AytDX