TensorBoard является лучшим инструментом для извлечения различных параметров в ходе разработки нейронной сети. В этой статье рассмотрим наиболее универсальные способы записи значений переменных для их последующей визуализации.
Ранее я рассказывал о простейшем способе такого исследования - путем обратных вызовов в Keras (подробнее читай здесь). Однако более гибкий подход предусматривает дополнительные механизмы работы с переменными.
В частности, создается объект пишущего устройства с указанием имени папки с помощью функции tf.summary.create_file_writer (tf - псевдоним TensorFlow). В последующем добавляются узлы, отслеживающие значения исследуемых переменных (например, с помощью tf.summary.scalar).
В качестве примера рассмотрим скрипт, записывающий значения слагаемых и их суммы в папку:
Значения слагаемых перебираются из объектов tf.data.Dataset, о которых я рассказывал ранее.
Для просмотра получившихся значений следует запустить TensorBoard командой:
tensorboard --logdir имя_папки(в нашем случае - logs_sum)
Затем набрать в браузере:
localhost:предложенное_имя_порта(как правило, 6006 и далее)
Вот, что записалось в нашем случае:
На 7 шаге (с нулевого) сумма равняется 770, что соответствует заданным данным.