18 подписчиков
Энергопотребление ИИ можно сократить на 95%.
О решении, способном значительно снизить энергозатраты на искусственный интеллект без серьёзного влияния на его производительность, рассказали в американской компании BitEnergy AI.
Инженеры предлагают заменить сложные операции умножения с плавающей точкой на более простые операции сложения целых чисел (integer addition). Алгоритм получил название Linear-Complexity Multiplication (LCM).
Оказалось, что этот метод не только экономичнее, но и точнее в вычислениях, которые дают действующие 8-битные стандарты.
При этом, сами исследователи отмечают — для внедрения LCM нужно специальное оборудование, которое сейчас ещё находится в разработке. Стартап надеется, что исследования подтвердятся и технологию начнут применять в разработке AI.
Около минуты
14 октября 2024