вопросы ии

1. Что такое transfer learning с заморозкой слоёв (frozen layers), и в каких случаях это применяется?

Transfer learning (перенос обучения) - это метод, при котором предварительно обученная на большом наборе данных нейронная сеть используется для решения другой, схожей задачи. "Заморозка" слоёв означает, что веса некоторых слоёв сети (обычно нижних, которые отвечают за извлечение общих признаков) не изменяются в процессе обучения на новой задаче.

Применение:

• Ограниченное количество данных: Если для новой задачи доступно мало данных, transfer learning помогает достичь хороших результатов, используя знания, полученные на большом наборе данных.
• Экономия времени и ресурсов: Обучение с нуля требует больше времени и вычислительных ресурсов, чем дообучение предобученной модели.
• Улучшение обобщающей способности: Использование предобученных признаков улучшает способность модели обобщать новые данные.

2. Нейронная сеть. Классификация нейронных сетей. Основные компоненты. Принцип работы.

Нейронная сеть - это математическая модель, вдохновлённая работой биологических нейронных сетей. Она состоит из взаимосвязанных элементов - нейронов, которые обрабатывают и передают информацию.

Классификация:

• По типу связей: прямого распространения (feedforward) и рекуррентные (recurrent).
• По архитектуре: полносвязные, сверточные, рекуррентные и др.

Основные компоненты:

• Нейроны: элементы, получающие входные сигналы, обрабатывающие их и передающие выходной сигнал.
• Связи (синапсы): соединения между нейронами, характеризующиеся весами, которые определяют силу сигнала.
• Функция активации: функция, определяющая выходной сигнал нейрона в зависимости от суммы входных сигналов.

Принцип работы:

1. Прямое распространение: входные сигналы поступают на входные нейроны, затем передаются по связям к следующим слоям нейронов и так далее до выходных нейронов.
2. Вычисление выходного сигнала: каждый нейрон вычисляет сумму взвешенных входных сигналов и применяет функцию активации для получения выходного сигнала.
3. Обучение: путём изменения весов связей между нейронами сеть настраивается на решение поставленной задачи.

3. Как работает механизм data augmentation для временных рядов или текстовых данных?

Data augmentation (аугментация данных) - это метод увеличения объема обучающих данных путём создания новых примеров на основе существующих. Для временных рядов и текстовых данных применяются следующие методы:

Временные ряды:

• Искажение времени: изменение скорости воспроизведения сигнала.
• Сдвиг: смещение сигнала во времени.
• Добавление шума: добавление случайных помех к сигналу.
• Изменение масштаба: изменение амплитуды сигнала.

Текстовые данные:

• Замена синонимов: замена слов на их синонимы.
• Перефразировка: изменение структуры предложения с сохранением смысла.
• Перевод и обратный перевод: перевод текста на другой язык и обратно.
• Добавление шума: добавление опечаток или случайных символов.

4. Принцип работы сверточной нейронной сети (CNN).

Сверточная нейронная сеть (CNN) - это специализированная архитектура нейронных сетей, предназначенная для обработки изображений и видео.

Принцип работы:

1. Сверточные слои: применяют фильтры (ядра свертки) к входному изображению для извлечения признаков.
2. Слои подвыборки (pooling): уменьшают размерность признаков, сохраняя важную информацию.
3. Полносвязные слои: объединяют извлеченные признаки для классификации или решения других задач.

5. Что такое активационные карты (activation maps), и как они помогают понять работу свёрточных сетей?

Активационные карты - это изображения, показывающие, какие участки входного изображения наиболее сильно активируют определённый нейрон в сверточном слое. Они помогают визуализировать, какие признаки извлекает каждый фильтр, и понять, на что "смотрит" сеть.

6. Принцип работы рекуррентной нейронной сети (RNN). Почему она подходит для обработки последовательных данных?

Рекуррентная нейронная сеть (RNN) - это тип нейронной сети, предназначенный для обработки последовательных данных, таких как текст или временные ряды.

Принцип работы:

• Обратная связь: RNN имеют связи, которые позволяют информации с предыдущих шагов передаваться на текущие.
• Состояние: RNN поддерживают внутреннее состояние, которое хранит информацию о предыдущих элементах последовательности.

Подходит для последовательных данных:

• Учёт контекста: RNN учитывают предыдущие элементы последовательности при обработке текущего.
• Переменная длина: RNN могут обрабатывать последовательности разной длины.

7. Функция потерь. Зачем и для чего используется? Основные виды.

Функция потерь - это функция, которая показывает, насколько хорошо работает модель. Она измеряет разницу между предсказаниями модели и реальными значениями.

Использование:

• Обучение: функция потерь используется для настройки параметров модели путём минимизации ошибки.
• Сравнение: функция потерь позволяет сравнивать разные модели.

Основные виды:

• Среднеквадратичная ошибка (MSE): для задач регрессии.
• Кросс-энтропия: для задач классификации.
• Hinge loss: для задач классификации с SVM.

8. Какие методы используются для ускорения обучения нейронных сетей (например, momentum…)?

• Momentum: добавляет "инерцию" к процессу обучения, позволяя быстрее проходить "узкие места" в пространстве параметров.
• Adam: адаптивный алгоритм оптимизации, который автоматически настраивает скорость обучения для каждого параметра.
• Mini-batch: обучение на небольших группах данных (батчах), что ускоряет процесс обновления параметров.
• GPU: использование графических процессоров для параллельных вычислений.

9. Что такое генеративные модели, и чем они отличаются от дискриминативных моделей?

Генеративные модели - это модели, которые способны генерировать новые данные, похожие на обучающие.

Дискриминативные модели - это модели, которые решают задачу классификации или регрессии, разделяя данные на классы или предсказывая числовые значения.

Отличие:

Генеративные модели моделируют совместное распределение данных и меток, а дискриминативные модели моделируют условное распределение меток при условии данных.

10. Что такое siamese networks, и в каких задачах они применяются?

Siamese networks - это архитектура нейронных сетей, состоящая из двух идентичных подсетей, которые имеют общие веса.

Применение:

• Сравнение объектов: определение степени схожести двух объектов (например, лиц, изображений).
• Обучение на парах: обучение на парах объектов, которые должны быть похожими или различными.

11. Как работает механизм cross-entropy loss, и почему он часто используется в задачах классификации?

Cross-entropy loss - это функция потерь, которая измеряет разницу между распределением вероятностей, предсказанным моделью, и истинным распределением.

Использование в классификации:

• Несколько классов: подходит для задач классификации с несколькими классами.
• Вероятности: учитывает вероятности принадлежности объекта к каждому классу.

12. Какие архитектуры используются для решения задач семантической сегментации изображений? Почему они подходят именно для этой задачи?

Семантическая сегментация - это задача классификации каждого пикселя изображения.

Архитектуры:

• U-Net: архитектура с энкодером и декодером, которая позволяет получать точные границы объектов.
• DeepLab: архитектура, использующая dilated convolutions для увеличения receptive field и получения более точных результатов.
• FCN (Fully Convolutional Networks): архитектура, которая преобразует полносвязные слои в сверточные, что позволяет получать карту сегментации изображения.

Подходят для семантической сегментации:

• Попиксельная классификация: архитектуры позволяют классифицировать каждый пиксель изображения.
• Учёт контекста: архитектуры учитывают контекст изображения для получения более точных результатов.

Конечно, вот ответы на ваши вопросы по глубокому обучению:

13. Как работает процесс fine-tuning при использовании предобученных моделей в задачах глубокого обучения?

Fine-tuning (тонкая настройка) — это процесс адаптации предварительно обученной модели к новой задаче или набору данных. Вместо обучения модели с нуля, что требует большого количества данных и вычислительных ресурсов, fine-tuning использует уже существующие знания, "замороженные" в весах модели.

Этапы fine-tuning:

1. Выбор предобученной модели: Выбирается модель, которая хорошо подходит для решаемой задачи. Например, для классификации изображений можно использовать модели, обученные на ImageNet.
2. Замена классификационного слоя: Заменяется последний слой модели (обычно полносвязный), который отвечает за классификацию на исходном наборе данных, на новый слой, соответствующий количеству классов в новой задаче.
3. Заморозка слоёв: Часто "замораживают" несколько первых слоёв модели, чтобы сохранить уже изученные низкоуровневые признаки (например, границы, текстуры).
4. Обучение: Обучают оставшиеся слои модели на новом наборе данных. Обычно используют небольшой learning rate, чтобы не испортить уже настроенные веса.

Преимущества fine-tuning:

• Экономия времени и ресурсов: Не нужно обучать модель с нуля.
• Улучшение качества: Модель, обученная с помощью fine-tuning, часто показывает лучшие результаты, особенно при ограниченном количестве данных.
• Возможность решать более сложные задачи: Можно использовать модели, обученные на огромных наборах данных, для решения более узких задач.

14. Что такое dropout, и как он помогает предотвратить переобучение?

Dropout — это метод регуляризации, который помогает предотвратить переобучение в нейронных сетях. Идея dropout заключается в том, что во время обучения случайным образом "выключаются" некоторые нейроны (с заданной вероятностью). Это приводит к тому, что сеть становится более устойчивой к шуму и не запоминает отдельные примеры из обучающей выборки.

Как работает dropout:

1. Во время обучения: Для каждого мини-батча случайно выбираются нейроны, которые будут "выключены".
2. Прямое распространение: Входные данные проходят через сеть, но "выключенные" нейроны не участвуют в вычислениях.
3. Обратное распространение: Градиент считается только для активных нейронов.
4. Во время тестирования: Все нейроны активны, но веса умножаются на вероятность "выключения" во время обучения.

Преимущества dropout:

• Предотвращает переобучение: Сеть становится более устойчивой к шуму и не запоминает отдельные примеры.
• Улучшает обобщающую способность: Модель лучше работает на новых данных.
• Простая реализация: Dropout легко добавляется в любую нейронную сеть.

15. Как работает механизм skip connections в сверточных сетях? В чём их преимущество?

Skip connections (пропущенные соединения) — это механизм, который используется в сверточных сетях для решения проблемы затухания градиента при обучении глубоких сетей. Идея skip connections заключается в том, что выход одного слоя напрямую передается на вход другого слоя, расположенного дальше по сети.

Как работают skip connections:

1. Прямое соединение: Входные данные проходят через несколько сверточных слоёв.
2. Skip connection: Выход одного из слоёв (например, третьего) суммируется с выходом слоя, расположенного дальше по сети (например, пятого).
3. Результат: Полученная сумма передается на вход следующего слоя.

Преимущества skip connections:

• Предотвращают затухание градиента: Градиент может "пройти" через skip connection, не затухая, что позволяет обучать более глубокие сети.
• Улучшают качество обучения: Skip connections позволяют сети "учить" более сложные зависимости.
• Упрощают обучение: Skip connections делают функцию потерь более гладкой, что облегчает оптимизацию.

16. Что такое batch normalization, и как она влияет на процесс обучения нейронных сетей?

Batch normalization (нормализация батчей) — это метод, который нормализует выходные данные каждого слоя нейронной сети в пределах одного мини-батча. Это делается для того, чтобы улучшить стабильность и скорость обучения.

Как работает batch normalization:

1. Вычисление среднего и дисперсии: Для каждого нейрона в слое вычисляется среднее значение и дисперсия его выходов в пределах мини-батча.
2. Нормализация: Выходы каждого нейрона нормализуются путем вычитания среднего значения и деления на стандартное отклонение.
3. Масштабирование и сдвиг: Нормализованные значения умножаются на масштабирующий коэффициент и сдвигаются на некоторый вектор сдвига. Эти параметры обучаются вместе с остальными параметрами сети.

Преимущества batch normalization:

• Ускоряет обучение: Нормализация данных делает функцию потерь более гладкой, что облегчает оптимизацию.
• Улучшает стабильность обучения: Batch normalization уменьшает внутреннее ковариативное смещение, что делает обучение более стабильным.
• Улучшает качество обучения: Batch normalization позволяет использовать более высокие learning rate, что может привести к лучшему качеству обучения.

17. LSTM. Принцип работы. Основные свойства.

LSTM (Long Short-Term Memory) — это тип рекуррентной нейронной сети, который предназначен для обработки последовательностей данных, таких как текст или временные ряды. LSTM имеет специальную архитектуру, которая позволяет ей "запоминать" информацию на длительных промежутках времени.

Принцип работы LSTM:

LSTM состоит из нескольких "вентилей" (gates), которые управляют потоком информации через ячейку памяти. Эти вентили позволяют LSTM "забывать" ненужную информацию и "запоминать" важную.

Основные свойства LSTM:

• Способность "запоминать" информацию на длительных промежутках времени: LSTM может обрабатывать длинные последовательности данных, не "забывая" информацию, которая была получена ранее.
• Устойчивость к проблеме затухания градиента: LSTM имеет специальную архитектуру, которая помогает предотвратить затухание градиента при обучении.
• Широкий спектр применения: LSTM используется для решения различных задач, таких как машинный перевод, распознавание речи и генерация текста.

18. GRU. Принцип работы. Основные свойства.

GRU (Gated Recurrent Unit) — это еще один тип рекуррентной нейронной сети, который является упрощенной версией LSTM. GRU также предназначен для обработки последовательностей данных и обладает способностью "запоминать" информацию на длительных промежутках времени.

Принцип работы GRU:

GRU имеет два "вентиля": вентиль обновления (update gate) и вентиль сброса (reset gate). Эти вентили управляют потоком информации через ячейку памяти.

Основные свойства GRU:

• Способность "запоминать" информацию на длительных промежутках времени: GRU может обрабатывать длинные последовательности данных, не "забывая" информацию, которая была получена ранее.
• Устойчивость к проблеме затухания градиента: GRU имеет специальную архитектуру, которая помогает предотвратить затухание градиента при обучении.
• Простая архитектура: GRU имеет меньше параметров, чем LSTM, что делает ее более простой в реализации и обучении.
• Широкий спектр применения: GRU используется для решения различных задач, таких как машинный перевод, распознавание речи и генерация текста.

19. Методы регуляризации в глубоком обучении:

• L1 и L2 регуляризация: добавление штрафа к функции потерь, пропорционального сумме модулей (L1) или квадратов (L2) весов модели. Это приводит к уменьшению абсолютных значений весов, предотвращая переобучение.
• Dropout: случайное исключение части нейронов во время обучения. Это заставляет сеть учиться более устойчивым признакам, не полагаясь на конкретные нейроны.
• Batch Normalization: нормализация выхода каждого слоя путем вычитания среднего значения и деления на стандартное отклонение. Это ускоряет обучение и делает его более стабильным.
• Data Augmentation: увеличение объема обучающих данных путем применения различных преобразований к изображениям (поворот, сдвиг, изменение масштаба и т.д.). Это помогает сети лучше обобщаться на новые данные.

Примеры применения:

• L2 регуляризация часто используется в сверточных сетях для классификации изображений.
• Dropout хорошо работает в полносвязных сетях для обработки естественного языка.
• Batch Normalization применяется практически во всех современных архитектурах глубокого обучения.
• Data Augmentation является стандартным методом для задач компьютерного зрения.

20. Архитектурные особенности ResNet:

• Residual Connections (остаточные соединения): ключевая особенность ResNet заключается в добавлении "shortcut connections", которые соединяют выходные данные слоя с его входными данными. Это позволяет сети эффективно "пропускать" слои, если они не нужны для решения конкретной задачи.
• Глубина: ResNet может достигать большой глубины (до 1000 слоев и более) благодаря остаточным соединениям, которые предотвращают проблему исчезающего градиента.
• Простота: ResNet имеет относительно простую и единообразную архитектуру, что делает ее легкой для понимания и реализации.

Эффективность ResNet:

• Уменьшение ошибки: ResNet значительно уменьшил ошибку на различных задачах компьютерного зрения, таких как классификация изображений, обнаружение объектов и семантическая сегментация.
• Обучение глубоких сетей: ResNet позволил эффективно обучать очень глубокие сети, которые ранее были невозможны из-за проблемы исчезающего градиента.

21. Оценка качества модели в задачах классификации и обнаружения объектов:

Классификация:

• Accuracy (точность): доля правильно классифицированных объектов.
• Precision (точность): доля объектов, которые действительно принадлежат данному классу среди всех объектов, отнесенных к этому классу.
• Recall (полнота): доля объектов данного класса, которые были правильно классифицированы.
• F1-score: среднее гармоническое между точностью и полнотой.
• AUC-ROC: площадь под кривой ROC, которая показывает зависимость между TPR (True Positive Rate) и FPR (False Positive Rate).

Обнаружение объектов:

• mAP (mean Average Precision): среднее значение точности для разных уровней Recall.
• IoU (Intersection over Union): мера пересечения между предсказанным ограничивающим прямоугольником и истинным ограничивающим прямоугольником.
• COCO metrics: набор метрик, разработанных для оценки качества обнаружения объектов на наборе данных COCO.

22. Механизм anchor boxes в задачах обнаружения объектов:

• Anchor boxes: это предварительно определенные прямоугольные рамки разных размеров и пропорций, которые используются для обнаружения объектов разных форм и размеров.
• Сопоставление с объектами: во время обучения сеть сопоставляет anchor boxes с ground truth bounding boxes (истинными ограничивающими прямоугольниками) и корректирует их положение и размер, чтобы они наилучшим образом соответствовали объектам на изображении.
• Преимущества: anchor boxes позволяют обнаруживать объекты разных размеров и форм, а также ускоряют процесс обучения, предоставляя сети хорошую отправную точку для поиска объектов.

23. Оптимизаторы для обучения полносвязных сетей:

• SGD (Stochastic Gradient Descent): классический алгоритм оптимизации, который обновляет веса сети на основе градиента функции потерь для одного или нескольких примеров из обучающей выборки.
• Adam: адаптивный алгоритм оптимизации, который учитывает как градиент, так и его дисперсию. Adam обычно работает лучше, чем SGD, и требует меньше настройки гиперпараметров.
• RMSprop: еще один адаптивный алгоритм оптимизации, который похож на Adam, но использует скользящее среднее квадратов градиента вместо дисперсии.

Различия:

• SGD является самым простым алгоритмом, но может быть медленным и нестабильным.
• Adam и RMSprop являются более сложными алгоритмами, которые обычно работают лучше, чем SGD, но могут иметь больше гиперпараметров для настройки.

24. GAN (Generative Adversarial Network):

• GAN: это модель генеративного обучения, которая состоит из двух нейронных сетей: генератора и дискриминатора.
• Генератор: создает поддельные данные, которые пытаются быть похожими на реальные данные.
• Дискриминатор: пытается отличить поддельные данные, созданные генератором, от реальных данных.
• Обучение: генератор и дискриминатор обучаются одновременно в состязательном режиме. Генератор пытается обмануть дискриминатор, создавая все более реалистичные поддельные данные, а дискриминатор пытается стать лучше в обнаружении поддельных данных.

25. Attention mechanism (механизм внимания):

• Attention mechanism: позволяет сети концентрироваться на наиболее важных частях входных данных при обработке последовательностей, таких как текст или аудио.
• Принцип работы: механизм внимания вычисляет "веса внимания", которые показывают, насколько важна каждая часть входной последовательности для решения конкретной задачи. Эти веса затем используются для взвешивания входных данных, что позволяет сети уделять больше внимания наиболее важным частям.
• Улучшение RNN: механизм внимания помогает RNN обрабатывать длинные последовательности, запоминая только наиболее важную информацию.

26. Архитектура VGG:

• VGG (Visual Geometry Group): это популярная сверточная нейронная сеть, разработанная исследователями из Оксфордского университета.
• Особенности: VGG характеризуется использованием небольших сверточных фильтров (3x3) и большим количеством слоев (до 19).
• Эффективность: VGG показала отличные результаты на различных задачах компьютерного зрения, таких как классификация изображений и обнаружение объектов.

27. Проблема исчезающего и взрывающегося градиента:

• Исчезающий градиент: возникает, когда градиент функции потерь становится очень маленьким во время обратного распространения ошибки. Это приводит к тому, что обучение сети замедляется или останавливается.
• Взрывающийся градиент: возникает, когда градиент функции потерь становится очень большим во время обратного распространения ошибки. Это приводит к тому, что обучение сети становится нестабильным.

Методы борьбы:

• Инициализация весов: правильная инициализация весов сети может помочь предотвратить проблемы с градиентом.
• Функции активации: использование правильных функций активации, таких как ReLU, может помочь предотвратить исчезновение градиента.
• Нормализация: нормализация входных данных и выходов слоев может помочь стабилизировать обучение.
• Обрезание градиента: ограничение максимального значения градиента может помочь предотвратить взрыв градиента.

28. Модификации GAN:

• DCGAN (Deep Convolutional GAN): использует сверточные слои в генераторе и дискриминаторе, что улучшает качество генерируемых изображений.
• CGAN (Conditional GAN): позволяет генерировать данные, обусловленные определенными условиями (например, метками классов).
• CycleGAN: позволяет переводить изображения из одной области в другую без использования парных данных.

29. Использование RNN для генерации текста или музыки:

• Принцип работы: RNN могут генерировать последовательности данных, такие как текст или музыка, путем предсказания следующего элемента последовательности на основе предыдущих элементов.
• Обучение: RNN обучаются на большом корпусе текста или музыки, чтобы выучить вероятностное распределение последовательностей.
• Генерация: после обучения RNN может генерировать новые последовательности, выбирая элементы последовательности случайным образом в соответствии с выученным распределением.

Как RNN могут быть использованы для генерации текста или музыки? Опишите процесс.

RNN (рекуррентные нейронные сети) отлично подходят для задач, где важна последовательность данных, таких как текст или музыка.

Генерация текста с помощью RNN:

1. Обучение: RNN обучается на большом корпусе текста. Сеть анализирует последовательность слов и учится предсказывать следующее слово в предложении.
2. Генерация: После обучения сеть может генерировать новый текст. Начиная с некоторого начального слова или фразы, сеть предсказывает следующее слово, затем следующее, и так далее.
3. Контроль: Процесс генерации можно контролировать, задавая "температуру" (параметр, отвечающий за случайность выбора слов) или другие параметры, влияющие на стиль и структуру генерируемого текста.

Генерация музыки с помощью RNN:

1. Представление музыки: Музыка представляется в виде последовательности нот, аккордов или других музыкальных элементов.
2. Обучение: RNN обучается на наборе музыкальных произведений, анализируя музыкальные последовательности и учась предсказывать следующие музыкальные элементы.
3. Генерация: После обучения сеть может генерировать новую музыку, начиная с некоторого начального мотива или аккорда.

Преимущества RNN для генерации текста и музыки:

• Учёт контекста: RNN учитывают предыдущие элементы последовательности, что позволяет генерировать более связный и логичный текст или музыку.
• Гибкость: RNN могут быть использованы для генерации текста или музыки разных стилей и жанров, в зависимости от обучающего набора данных.

30. Что такое transfer learning, и как он применяется в задачах классификации изображений с использованием CNN?

Transfer learning (перенос обучения) - это метод, при котором знания, полученные при решении одной задачи, используются для решения другой, похожей задачи.

Применение transfer learning в классификации изображений с использованием CNN:

1. Предварительно обученная модель: Берётся CNN, уже обученная на большом наборе данных изображений (например, ImageNet). Эта модель уже обладает знаниями о признаках, характерных для разных классов изображений.
2. Адаптация модели:

• Замена классификатора: Последний слой CNN (классификатор) заменяется на новый, соответствующий количеству классов в вашей задаче.
• Дообучение: Модель дообучается на вашем наборе данных изображений. При этом можно "заморозить" некоторые слои (обычно первые), чтобы сохранить уже имеющиеся знания о признаках, и обучать только последние слои, которые адаптируются под вашу конкретную задачу.

1. Использование: Полученная модель используется для классификации новых изображений.

Преимущества transfer learning:

• Экономия времени и ресурсов: Не нужно обучать модель с нуля, что требует гораздо больше времени и вычислительных ресурсов.
• Повышение качества: Модель, обученная с использованием transfer learning, часто показывает лучшие результаты, особенно при небольшом размере обучающего набора данных.

31. Что такое рекуррентные нейронные сети и зачем они нужны?

Рекуррентные нейронные сети (RNN) - это вид нейронных сетей, предназначенный для обработки последовательностей данных, таких как текст, речь, музыка или временные ряды.

Особенность RNN:

• Память: RNN имеют "память", которая позволяет им учитывать предыдущие элементы последовательности при обработке текущего. Это достигается за счёт того, что выход каждого нейрона на текущем шаге времени подаётся на вход этому же нейрону на следующем шаге.

Зачем нужны RNN?

• Обработка последовательностей: RNN идеально подходят для задач, где важен порядок данных, например:
• Обработка естественного языка: машинный перевод, анализ тональности текста, генерация текста.
• Распознавание речи: преобразование звука в текст.
• Генерация музыки: создание музыкальных произведений.
• Анализ временных рядов: прогнозирование курса акций, анализ данных о погоде.

32. Как происходит обучение рекуррентных сетей с использованием BРTT (Backpropagation Through Time)?

Backpropagation Through Time (BPTT) - это алгоритм обучения рекуррентных нейронных сетей, основанный на методе обратного распространения ошибки.

Процесс BPTT:

1. Прямой проход: Входная последовательность данных подаётся на вход сети, и вычисляются выходы всех нейронов на каждом шаге времени.
2. Вычисление ошибки: Сравниваются выходы сети с ожидаемыми значениями, и вычисляется ошибка для каждого шага времени.
3. Обратное распространение ошибки: Ошибка распространяется назад во времени, от последнего шага к первому. При этом учитываются связи между нейронами на разных шагах времени.
4. Обновление весов: На основе вычисленной ошибки и её градиента по весам сети, веса обновляются с помощью алгоритма оптимизации (например, градиентного спуска).
5. Повторение: Шаги 1-4 повторяются для нескольких эпох обучения, пока ошибка не достигнет желаемого уровня.

Особенности BPTT:

• Вычислительно сложный: BPTT требует вычисления градиента ошибки по всем шагам времени, что может быть вычислительно затратным для длинных последовательностей.
• Проблема затухающего градиента: Градиент ошибки может затухать при распространении назад во времени, что затрудняет обучение сети на длинных последовательностях. Для решения этой проблемы используются специальные архитектуры RNN, такие как LSTM и GRU.

33. Что такое генеративные нейронные сети и зачем они нужны? Виды? Отличия.

Генеративные нейронные сети - это класс нейронных сетей, способных генерировать новые данные, похожие на те, на которых они были обучены.

Зачем нужны генеративные нейронные сети?

• Генерация изображений: создание фотореалистичных изображений, генерация новых лиц, улучшение качества изображений.
• Генерация текста: создание связного и логичного текста, перевод текстов, написание стихов и рассказов.
• Генерация музыки: создание музыкальных произведений разных жанров.
• Генерация видео: создание реалистичных видеороликов, улучшение качества видео.

Виды генеративных нейронных сетей:

• Генеративно-состязательные сети (GANs):
• Состоят из двух сетей: генератора и дискриминатора.
• Генератор пытается создать поддельные данные, а дискриминатор пытается отличить поддельные данные от реальных.
• Обучение происходит в состязательном режиме: генератор и дискриминатор соревнуются друг с другом, что приводит к улучшению качества генерируемых данных.
• Вариационные автоэнкодеры (VAEs):
• Основаны на идее кодирования данных в латентное пространство и последующего декодирования из этого пространства.
• Позволяют генерировать разнообразные данные, контролируя параметры латентного пространства.

Отличия GANs и VAEs:

Признак

GANs

VAEs

Принцип работы

Состязание генератора и дискриминатора

Кодирование и декодирование

Качество генерации

Высокое, часто фотореалистичное

Может быть ниже, чем у GANs

Разнообразие генерации

Может быть ограничено

Обеспечивается за счёт латентного пространства

Стабильность обучения

Может быть сложным и нестабильным

Более стабильное обучение

34. Что такое детекторы объектов (object detectors), такие как YOLO, SSD или Faster R-CNN? В чём их отличия?

Детекторы объектов - это алгоритмы компьютерного зрения, которые обнаруживают объекты на изображениях и определяют их местоположение (bounding box) и класс.

Отличия детекторов объектов

• YOLO (You Only Look Once):
• Скорость: YOLO известен своей высокой скоростью работы, что делает его подходящим для задач, требующих обработки в реальном времени.
• Точность: Может уступать в точности некоторым другим детекторам, особенно на сложных изображениях с множеством объектов.
• Принцип работы: Разделяет изображение на сетку и предсказывает ограничивающие рамки и классы объектов для каждой ячейки сетки.
• SSD (Single Shot MultiBox Detector):
• Баланс скорости и точности: SSD обеспечивает хороший баланс между скоростью и точностью, что делает его популярным выбором для многих задач.
• Разнообразие объектов: Хорошо подходит для обнаружения объектов разных размеров и форм.
• Принцип работы: Использует сверточные слои для обнаружения объектов разных размеров непосредственно на признаках изображения.
• Faster R-CNN:
• Точность: Faster R-CNN обычно обеспечивает более высокую точность обнаружения по сравнению с YOLO и SSD.
• Скорость: Может быть медленнее, чем YOLO и SSD, особенно на изображениях с большим количеством объектов.
• Принцип работы: Использует сеть для генерации регионов-кандидатов (region proposal network), а затем классифицирует эти регионы и уточняет их границы.

35. Пулинг (pooling)

Пулинг - это операция, которая уменьшает размерность признаков в сверточных нейронных сетях. Она применяется после сверточных слоев и перед полносвязными слоями.

Виды пулинга

• Максимальный пулинг (max pooling): Выбирает максимальное значение из группы соседних элементов.
• Средний пулинг (average pooling): Вычисляет среднее значение из группы соседних элементов.
• Суммарный пулинг (sum pooling): Вычисляет сумму значений из группы соседних элементов.

Преимущества пулинга

• Уменьшение вычислительной нагрузки: Пулинг уменьшает количество параметров в сети, что снижает вычислительные требования и ускоряет обучение.
• Устойчивость к небольшим изменениям: Пулинг делает сеть более устойчивой к небольшим изменениям во входных данных, таким как сдвиг или поворот изображения.
• Выделение важных признаков: Пулинг помогает выделить наиболее важные признаки, уменьшая влияние менее значимых деталей.