Многие искусственные интеллекты могут хорошо выполнять только одну задачу, забывая все, что они знают, если они изучают другую. Форма искусственного сна может помочь предотвратить это.
Искусственный интеллект может учиться и запоминать, как выполнять несколько задач, подражая тому, как сон помогает нам запомнить то, чему мы научились во время бодрствования.
"Сейчас существует огромная тенденция привносить идеи из нейронауки и биологии для улучшения существующего машинного обучения - и сон является одной из них", - говорит Максим Баженов из Калифорнийского университета в Сан-Диего.
Многие ИИ могут освоить только один набор четко определенных задач - они не могут получить дополнительные знания позже, не потеряв все, чему научились ранее. "Проблема возникает, если вы хотите разработать системы, способные к так называемому обучению в течение всей жизни", - говорит Павел Санда из Чешской академии наук в Чехии. Обучение в течение всей жизни - это то, как люди накапливают знания, чтобы адаптироваться к будущим проблемам и решать их.
Итак, перейдем к делу…
Баженов, Санда и их коллеги обучили шипованную нейронную сеть - связанную сетку искусственных нейронов, напоминающую структуру человеческого мозга, - обучению двум различным задачам без перезаписи связей, полученных при выполнении первой задачи. Они добились этого, чередуя периоды целенаправленного обучения с периодами сна.
Исследователи имитировали сон в нейронной сети, активируя искусственные нейроны сети в шумном режиме. Они также убедились, что шум, навеянный сном, примерно соответствует характеру стрельбы нейронов во время тренировок - это способ воспроизведения и укрепления связей, полученных в ходе выполнения обеих задач.
Сначала команда попробовала обучить нейронную сеть первой задаче, затем второй, а в конце добавить период сна. Но они быстро поняли, что такая последовательность все равно стирает связи нейронной сети, полученные при выполнении первой задачи.
Вместо этого последующие эксперименты показали, что важно "быстро чередовать сеансы обучения и сна", пока ИИ учится второй задаче, говорит Эрик Делануа из Калифорнийского университета в Сан-Диего. Это помогло закрепить связи из первой задачи, которые в противном случае были бы забыты.
Эксперименты показали, как обученная таким образом спицифическая нейронная сеть может позволить агенту ИИ научиться двум различным кормовым моделям поиска имитированных частиц пищи, избегая при этом ядовитых частиц.
"Такая сеть будет способна объединять последовательно полученные знания и применять их в новых ситуациях, как это делают животные и люди", - говорит Хава Зигельманн из Массачусетского университета в Амхерсте.
Спикерные нейронные сети, с их сложной, биологически вдохновленной конструкцией, еще не нашли широкого применения, потому что их трудно обучить, говорит Зигельманн. Следующие большие шаги для демонстрации полезности этого метода потребуют демонстрации более сложных задач на искусственных нейронных сетях, обычно используемых технологическими компаниями.
Одним из преимуществ нейронных сетей с шипами является то, что они более энергоэффективны, чем другие нейронные сети. "Я думаю, что в течение следующего десятилетия или около того будет большой стимул для перехода на технологию спицевых сетей", - говорит Райан Голден из Калифорнийского университета в Сан-Диего. "Хорошо, что мы выяснили это на ранней стадии".
Источник: журнал PLOS Computational Biology.
