2.2. Пять школ машинного обучения
Лучшие умы планеты несколько десятилетий занимались разработкой обуча-ющихся алгоритмов, и некоторые из них даже утверждают, что нашли универсальный алгоритм. Это маловероятно, так как в виде универсального ожидается алгоритм, который на основе минимальных исходных данных научится понимать видео, звук и текст не хуже человека, сделает важные, невозможные прежде, открытия в биологии, социологии и других науках. Пока ни один алгоритм машинного обучения не соответствует этим стандартам. Верховный алгоритм не должен решать новую задачу с нуля.
Он будет учиться читать, опираясь на то, что ранее уже научился видеть, слышать и чем умеет управлять.
Он будет действовать подобно ученому, который не наугад подбирает модели к данным, чтобы решить проблему, а оперирует всеми знаниями в данной области. Верховный алгоритм не будет пассивно потреблять данные. Он сможет взаимодействовать с окружающей средой и активно искать нужную информацию, как ребенок, обучающийся в процессе исследования окружающего мира.
Поиск верховного алгоритма сопровождается соперничеством разных научных школ машинного обучения. У каждой школы есть набор фундаментальных постулатов и проблема, которой они уделяют больше всего внимания. Решение находится с помощью алгоритма, который считается верховным в данной школе. Вот наиболее значимые на сегодняшний день школы машинного обучения:
• Школа символистов. Здесь считают, что интеллект — это исключительно манипулирование символами. Например, решение уравнений с заменой одних выражений другими. Символисты понимают, что нельзя учиться с нуля: новые данные должны подкрепляться базовыми знаниями. Они научились встраивать накопленные знания в машинное обучение и молниеносно соединять фрагменты этих знаний для решения новых задач. Их верховный алгоритм — это дедукция наоборот: она определяет недостающее для дедукции знание, а затем как можно в большей степени его обобщает.
• Школа коннекционистов. Для них обучение — это то, чем занимается головной мозг. Они полагают, что его надо воспроизвести методом обратной инженерии. Мозг учится, корректирует силу соединений между нейронами, внутри него создаются новые связи, его участки меняют форму. Основная проблема коннекционистов — понять, какие соединения приводят к ошибкам и как их изменить. Верховный алгоритм коннекционистов — метод обратного распространения ошибки, который сравнивает выходные данные системы с желаемыми, а потом последовательно меняет соединения между нейронами, чтобы максимально приблизить к нужному результату.
• Школа эволюционистов. Они верят, что естественный отбор — основа любого обучения. Поскольку мы сами — его результат, нам остается только симулировать его на компьютере. Ключевая проблема, которую решают эволюционисты, — создание обучающейся структуры. Они считают, что нужно не просто подобрать параметры, как при обратном распространении ошибки, а создать мозг, который будет настраивать уточнения. Верховный алгоритм эволюционистов — это генетическое программирование, которое соединяет и развивает компьютерные программы, как природа соединяет и развивает живые организмы.
• Школа байесовцев. Эти ученые озабочены тем, что все усвоенные знания слишком неопределенны, а обучение основано на недостоверных выводах. Они пытаются решить проблему: как работать с неполной, некачественной и противоречивой информацией? С точки зрения байесовцев, единственное решение проблемы — это вероятностный вывод, а верховный алгоритм — теорема Байеса и ее производные. Теорема Байеса объясняет, как встраивать в наши убеждения новые доказательства, а алгоритмы вероятностного вывода делают это максимально эффективно.
Теорема Байеса — она из основных теорем элементарной теории вероятностей, которая определяет вероятность события, исходя из того, что произошло взаимозависимое событие. Эти алгоритмы называют алгоритмами вероятностного вывода.
• Школа аналогистов. Для них ключ к обучению — в поиске сходства между разными ситуациями и логическим выведением других сходств. Если у двух пациентов схожие симптомы, скорее всего, у них одно и то же заболевание. Первостепенная проблема — оценить, насколько похожи эти случаи. Верховный алгоритм аналогистов — это метод опорных векторов, который определяет, какой опыт надо запомнить и как его соотнести с другими случаями, чтобы сделать последующие прогнозы.
Метод опорных векторов (англ. support vector machine) — перевод исходных векторов в пространство более высокой размерности.
Успехи всех школ бесспорны. Однако истинный верховный алгоритм должен решать все пять проблем, а не одну.
ВНИМАНИЕ! ПРОДОЛЖЕНИЕ В СЛЕДУЮЩЕЙ ПУБЛИКАЦИИ. Ну, а я не прощаюсь с Вами. А говорю Вам до скорой встречи на моем блоге. До волнующих моментов Нашей жизни))