Таковыми являются: забывчивость, переобучения, непредсказуемость. В искусственных нейросетях применяются методы корректировки, но это сложно и не всегда являются эффективными.
«Забывчивость»
Программы плохо реагируют на большое разнообразие ситуаций. Если обстоятельства все время меняются, нейросеть будет пытаться подстроиться под каждое из них, и в результате точность решений упадет. Но если человек еще может сориентироваться в незнакомой обстановке, то программе это сделать сложнее, ведь она лишена нейропластичности.
«Переобучение»
Это явление, когда модель хорошо объясняет только примеры из обучающей выборки, адаптируясь к примерам оттуда, вместо того, чтобы учиться классифицировать что-то другое, не участвующее в обучении. Если вы когда-нибудь смотрели на автомобиль и видели, что фары похожи на глаза, а решетка радиатора — на рот, вы понимаете, как это работает. Нейросеть точно так же начинает путаться.
Но ресурсов человеческого мозга хватает, чтобы понять, что машина — не настоящее лицо. Программа понять это не может. В подобной ситуации способна действительно выдать результат, что на картинке изображен человек.
«Непредсказуемость»
Это следствие закрытости и автономности нейронов. Тяжело предугадать результат работы нейросети, будет ли она должным образом работать в решении задачи. И если с предыдущими ошибками можно бороться благодаря правильным алгоритмам обучения, то непредсказуемость не исчезает. Это не стандартная программа, которая выдает известный результат для каждой ситуации.
Однако, с непредсказуемостью тоже борются: точность можно повысить, если использовать подходящую архитектуру. Не обязательно более сложную — с некоторыми задачами хорошо справляются, наоборот, более простые сети.
