Некоторое время назад на Geektimes вышла занимательная статья про критическую оценку результатов глубинного обучения. Статья очень занимательная и интересная, открывает много нового тем, кто интересуется, но не очень-то и погружён в тему Искусственного Интеллекта, искусственных нейронных сетей и глубинного обучения. Так что я рекомендовал бы прочитать сначала её, а потом вернуться к этой моей заметке, которая является своеобразным ответом на эту статью. Но если читать её неохота или нет времени, то вот тезисы:
- Для работы систем глубинного обучения необходимо много качественных данных, которые должны быть предварительно очищены и размечены специалистом. Чем глубже степень системы, тем больше данных требуется.
- Системы глубинного обучения работают только с теми типами данных, на которых происходило обучение, и они всё ещё не могут обобщать и переносить найденные закономерности на данные других типов, даже очень близких.
- Системам глубинного обучения очень сложно работать с иерархическими структурами, поэтому обработка языка для них — это очень непростое дело, поскольку естественный язык — это очень глубокая иерархическая структура.
- Как следствие предыдущего системы глубинного обучения с большим трудом воспринимают неточные и нечёткие данные, они часто не видят разницы там, где для человека разница огромна.
- Системы глубинного обучения унаследовали от искусственных нейронных сетей и усугубили проблему высокой сложности (до практической невозможности) объяснения полученных результатов и произведённого вывода.
- Системы глубинного обучения не принимают во внимание уже имеющийся корпус знаний, а заново обучаются на входных данных, просто как-то по-своему их интерпретируя.
- Важной задачей является выявление причинно-следственных связей и отделение их от простых корреляций, но системам глубинного обучения такое разделение пока даётся с трудом.
- Систему глубинного обучения легко обмануть, особенно если она находится на «грани переобученности». Эта уязвимость открывает широкий простор для разнообразных атак, последствия которых ещё даже не до конца осознанны. К решению этой проблемы даже не приступали.
- Прикладных применений системам глубинного обучения так до сих пор и не найдено, и этот пункт является, фактически, следствием всех предыдущих.
Далее автор этой полемической заметки делает свои неутешительные прогнозы о том, к чему может привести изрядная шумиха по поводу глубинного обучения (как к чему — к новой, третьей зиме ИИ), а также даёт своё видение о том, как всё это можно было бы преодолеть. Среди его советов такие: применение методики спонтанного обучения, попытки решения более сложных задач, использование современных знаний в области психологии и, наконец, применение гибридных моделей с технологиями манипуляции символами. Вот на этой последней возможности мне сегодня и хотелось бы заострить своё внимание.
Я опубликую здесь ряд заметок со своим видением того, почему именно гибридные ИИ-системы ответят на поставленные автором изначальной заметки вопросы. Следите за эфиром.
