Исследователи из Массачусетского технологического института разработали чип, способный обрабатывать вычисления нейронной сети в три-семь раз быстрее, чем предыдущие итерации. Кремний способен снять этот подвиг, одновременно уменьшая потребление энергии на целых 95 процентов, делая его идеальным для использования в смартфонах или даже в бытовой технике.
Нейронные сети представляют собой плотно взаимосвязанные сетки базовых информационных процессоров, которые учат выполнять различные задачи, такие как речь или распознавание лиц, путем анализа массивных наборов «обучающих» данных. Большинство нейронных сетей довольно большие и потребляют множество данных, ограничивая их использование.
Поскольку MIT правильно подчеркивает, большинство приложений для смартфонов, которые используют нейронные сети, просто загружают данные в облако. Данные обрабатываются удаленно, и результаты отправляются обратно на телефон для использования. У этого метода есть свои преимущества - например, возможность использовать огромные нейронные сети, но также и некоторые недостатки, такие как тот факт, что вы отправляете потенциально конфиденциальные данные третьим лицам или латентность вашего интернет-соединения. Если вы оказались в мертвой зоне сети, ну, я полагаю, вы не сможете вообще использовать нейронную сеть.
К счастью, блестящие умы, подобные тем, что работают в Массачусетском технологическом институте, оптимизируют нейронные сети, поэтому они будут практично работать на местном уровне.
Авишек Бисвас, аспирант Массачусетского технологического института, который возглавил разработку нового чипа, сказал, что общая модель процессора - это то, что в какой-то части чипа есть память и процессор в другой части чипа. При выполнении вычислений данные перемещаются между двумя точками.
Поскольку алгоритмы машинного обучения требуют такого большого количества вычислений, Biswas продолжил, передача данных назад и вперед отвечает за большую часть потребления энергии. Вычисления алгоритмов можно упростить до одной конкретной операции, называемой точечным произведением. Их цель состояла в том, чтобы определить, можно ли реализовать функциональность точечного продукта внутри памяти, тем самым исключая дорогостоящую передачу данных между процессорами и памятью.
Прототип команды способен вычислять точечные продукты до 16 узлов за раз, вместо того, чтобы перетасовывать между процессором и банком памяти для каждого вычисления. Как вы можете себе представить, это может сэкономить массу времени и значительно сократить потребление энергии.
Несмотря на несколько недостатков (точность чипа обычно составляла от двух до трех процентов от обычной сети при тестировании), прототип многообещающий. Дарио Гил (Dario Gil), вице-президент по искусственному интеллекту в IBM, сказал, что он, несомненно, откроет возможность использовать более сложные сверточные нейронные сети для классификации изображений и видео в будущих устройствах IoT.
Несколько других крупных технологических игроков также работают над сокращением нейронных сетей. Чипсет Huawei Kirin 970, представленный в сентябре, включает в себя специализированный блок нейронной обработки, а также Exynos 9 Series 9810 SoC от Samsung. В последнем чипсете Apple A11 Bionic также имеется специальный чип AI.
На этой неделе Бисвас представляет свою работу на Международной конференции по полупроводниковым сетям.
