Гугл зарелизил TFLite модели, которые работают на GPU на мобильных устройствах:
Пока только бинарники, без кода. Обещают выложить код, когда все протестируют и получат фидбэк от разработчиков.
Обработка картинок ускоряется раза в 4, видео — раз в 18
Ждем доработок и официального open-source релиза.