Неросеть обучили развивать собственную "иммунную систему", чтобы предотвращать ввод подозрительных данных

Глубокие нейронные сети можно направить по «неправильному ходу мысли», слегка скорректировав входные данные — и настроить ИИ, разрабатывающий лекарства, не отсеивать токсичные вещества, а, наоборот, искать их. Команда исследователей из Мичигана разработала систему обучения нейросетей RAILS, которая защищает от подобных вмешательств.

RAILS — это новый подход к состязательному обучению, работающий по тому же принципу, что и адаптивная иммунная система человека. В то время как врожденная иммунная система осуществляет общую атаку на патогены, адаптивная может генерировать новые клетки, предназначенные для защиты от конкретных патогенов. 

Как выяснить, глубокие нейронные сети тоже могут воспользоваться преимуществами этого биологического процесса. Для разработки нейросетевого аналога, исследователи изучали, как адаптивная иммунная система грызунов реагирует на антигены (использовались ткани генетически модифицированных мышей). В итоге была создана система RAILS, которая идентифицирует подозрительные входные данные нейросетей и информирует о них. Причем, делает это эффективнее ранее разработанных методов машинного обучения, используемых для борьбы с состязательными атаками.