Силиконовые нейронные системы имеют в своей основе принцип работы белкового интеллекта, и наоборот. Так, например, мы ежедневно решаем задачи классификации, когда распознаем черты лица любимого человека, находим по набору признаков свою машину на стоянке. Или неосознанно используем наивный байесовский классификатор, оценивая вероятность наступления совместных событий.
Машинное обучение подразумевает предъявление алгоритму обучающего набора. И последующую проверку качества обучения на контрольной выборке. По итогу обучения нейронной сети возможны два принципиально различных варианта.
Первый - недообучение. Алгоритм упускает основные закономерности, демонстрируя низкую чувствительность. Такая модель способна пренебрегать важными тенденциями и даёт менее точные предсказания как для текущих, так и для будущих событий. «Не видит за деревьями леса»
Второй - переобучение. Алгоритм тяготеет к избыточной чувствительности. И принимает случайные отклонения данных за закономерности. Он может давать 100 процентную точность на обучающем наборе (потому что просто выучил его), но при этом, является абсолютно бесполезным в реальных условиях. «Палочки должны быть попендикулярны» (с)
Когда параметры модели настроены хорошо, алгоритм достигает равновесия, размечая главные тенденции, и пренебрегая мелкими отклонениями.
В попытке свести к минимуму ошибки прогнозирования, мы можем попытаться увеличить сложность модели. Один из способов борьбы со сложностью - штраф модели, увеличивающий погрешность. Это побуждает алгоритм находить оптимальное соотношение между точностью и сложностью.
Основные классы алгоритмов:
Обучение без учителя: когда необходимо найти закономерности в данных.
Обучение с учителем: когда используются для прогнозирования заданные шаблоны
Обучение с подкреплением: когда используются закономерности в данных, с постоянным улучшением модели по мере появления новых результатов.
Так бывает и в человеческой жизни: оптимальной стратегией является достижение баланса между точностью и сложностью.
Жизнь предъявляет обучающие наборы в виде событий, обстоятельств и условий, а задача человека найти в них закономерности таким образом, чтобы не свалиться в пространство сверхобобщений (все мужики сво..), в тоже время, не впадая в ступор какое утро от необходимости почистить зубы (обучаясь этому процессу каждый раз заново).
Хочется понять от чего это зависит? Наверное от качества самой нейронной сети, полноты обучающих наборов и гиперпараметров модели, задаваемых окружением, прочитанными книгами, просмотренными фильмами, культурными, ментальными кодами. В этом смысле был прав Сократ, считавший, что неблаговидное поведение определяется не дефектом воли, а недостатком воспитания.
Посмотрите небольшое видео, написанное нейронной сетью
Идеальный вариант - совмещение всех трёх классов обучения одним человеком (обучение с учителем, без учителя и с подкреплением) для решения различных жизненных задач в попытке нащупать баланс между недообученностью и переобученностью.