Гугл зарелизил TFLite модели, которые работают на GPU на мобильных устройствах: https://medium.com/tensorflow/tensorflow-lite-now-faster-with-mobile-gpus-developer-preview-e15797e6dee7 Пока только бинарники, без кода. Обещают выложить код, когда все протестируют и получат фидбэк от разработчиков. Обработка картинок ускоряется раза в 4, видео — раз в 18 Ждем доработок и официального open-source релиза.