219 подписчиков
Переходим к понятию функции активации искусственного нейрона.
Из предыдущего урока мы узнали, что внутри тела искусственного нейрона происходит некоторое преобразование входного сигнала.
Преобразование выполняется в соответствии с функцией активации.
Выделяют пять популярных функций активации:
1. Пороговая функция (0 или 1)
2. Линейная функция (прямая вида cx)
3. Функция ReLU
4. Сигмоидная логистическая функция
5. Гипербполический тангенс
Помимо соотношений, представленных выше, есть и другие функции активации. Исследователи в области искусственного интеллекта постоянно ищут новые способы улучшить нейронные сети, в том числе модифицируя уже существующие способы и приемы обработки входных сигналов.
Корректный выбор активационной функции - основная задача для построения правильной нейронной сети. Оне Однако, не существует универсального правила, в каком случае какую из функций применять. Практика, показывает, что ReLU лучше ведет себя как аппроксиматор. Сигмоида и гиперболический тангенс чаще используются в задачах классификации.
Выбор функции активации рассмотрим подробнее на конкретных примерах в следующих уроках.
Около минуты
4 июля 2023