Производитель чипов корпорация Intel была выбрана, чтобы возглавить новую инициативу по исследованию американских военных крыло агентством DARPA, направлены на улучшение кибер-защиту от обмана нападения на моделей машинного обучения.
Машинное обучение-это вид искусственного интеллекта, который позволяет системам, чтобы улучшить со временем с новыми данными и опытом. Одним из наиболее общих случаев применения на сегодняшний день является распознавание объектов, таких как фото и описании, что в нем. Что может помочь людям с ослабленным зрением, чтобы знать, что на фотографии, если они не могут видеть, например, но она также может использоваться другими компьютерами, таких как автономных транспортных средств, чтобы определить, что к чему на дороге.
Но обман нападения, хотя и редко, могут вмешиваться в алгоритмы машинного обучения. Тонкие изменения в реальном мире объекты могут, в случае самостоятельного вождения автомобиля, может иметь катастрофические последствия.
Всего несколько недель назад исследователи компании McAfee обманули Тесла на ускорении в 50 милях в час выше предполагаемой скорости, добавив два-дюймовый кусок ленты на знак ограничения скорости. Исследование было одним из первых примеров манипулирования машины устройства алгоритмы обучения.
Вот где в DARPA надеются вступить в игру. Исследовательского подразделения в начале года сказал, что он работает над программой, известной как гард, или гарантийное ИИ надежности против обмана. Существующие средства защиты против атак машинного обучения, как правило, на основе правил и предопределенных, но DARPA надеется, что он может развиваться Гард в систему, которая будет иметь более широкую защиту для решения целого ряда различных видов нападений.
Сегодня Intel заявила Это будет служить в качестве генерального подрядчика для четырехлетней программой наряду с Джорджии.
Джейсон Мартин, главный инженер в лаборатории Intel, который приводит в команде Intel Гард, говорит, чипов и Джорджии будут работать вместе, чтобы “повысить обнаружения объектов и для улучшения способности для AI и машинного обучения, чтобы ответить на враждебные выпады”.
В ходе первого этапа программы Intel заявила она направлена на повышение ее технологии обнаружения объектов с помощью пространственной, временной и смысловой связности, как для фото, так и видео.
DARPA заявила, Гард может быть использован в различных ситуациях — например, в биологии.
“То широкое сценарные обороны мы ищем для создания можно увидеть, например, в иммунной системе, которая определяет атак, побед и помнит нападение в целях создания более эффективных ответных мер в будущем,” сказал д-р Хава Siegelmann, а менеджер программы в DARPA по информации управления инновациями.
“Мы должны обеспечить машинного обучения является безопасным и неспособным быть обманутым”, - сказал Siegelmann.
Правильный способ сделать ИИ в безопасности
