По мере развития современных технологий сети подключенных машин, таких как беспилотные автомобили, роботы-доставщики, человекоподобные роботы и интеллектуальная инфраструктура, становятся все более распространенными.
Эти системы, часто называемые киберфизическими системами, в значительной степени полагаются на связь и координацию между несколькими автономными агентами. Однако остается одна серьезная проблема: как эти машины могут определить, какой информации доверять, прежде чем принимать решения? Исследователи из Гарварда Джон А. Школа инженерии и прикладных наук Полсона предложила инновационное решение этой проблемы, представив структуру, известную как «cy-trust», призванную сделать сети роботов и транспортных средств более безопасными и надежными.
Киберфизические системы станут очень распространенными
Концепция кибердоверия фокусируется на количественном измерении доверия. Вместо того, чтобы слепо принимать все поступающие данные, каждый робот или транспортное средство оценивает достоверность информации, полученной от других агентов. Эта оценка выражается в виде числового значения, обычно в диапазоне от нуля до единицы, которое показывает, насколько заслуживает доверия источник. На основании этой оценки система решает, какое влияние эта информация должна оказать на ее действия. Этот подход важен, поскольку традиционные методы кибербезопасности в основном контролируют доступ к системам, но не обеспечивают адекватного решения вопросов принятия решений в реальном времени в динамичных многоагентных средах.
«Киберфизические системы станут очень распространенными», — сказал Гил, соавтор статьи. "Вопрос в том, как мы обеспечиваем безопасность этих систем? Как мы можем гарантировать, что они будут устойчивыми при использовании в реальном мире? Это то, чему нам пришлось научиться, обеспечивая безопасность интернет-систем".
Необходимость в такой структуре возникает из-за уникальных рисков, связанных с подключенными автономными системами. В этих сетях даже один неисправный или вредоносный агент может нарушить работу всей системы. Например, взломанный автомобиль может отправлять ложные данные о дорожном движении, заставляя другие транспортные средства выбирать небезопасные маршруты, или робот в спасательной миссии может предоставлять неверную информацию о местоположении, что приводит к пробелам в зоне покрытия. Эти сценарии демонстрируют, что нарушения доверия могут иметь прямые физические последствия, включая несчастные случаи и угрозы безопасности человека.
Чтобы решить эти проблемы, исследователи предполагают, что автономные системы должны использовать свои бортовые датчики, такие как камеры, радар, GPS и лидар, для независимой проверки информации. Сравнивая внешние данные с реальными наблюдениями, машины могут обнаруживать несоответствия и уменьшать зависимость от потенциально вредных входных данных. Кроме того, передовые методы обработки сигналов могут помочь определить, действительно ли сообщения поступают из разных источников или ими манипулирует один злоумышленник. Такой многоуровневый подход позволяет системам принимать более обоснованные и безопасные решения.
Система cy-trust уже была протестирована в контролируемых экспериментах с участием групп взаимодействующих роботов и симулированных злоумышленников. В ходе этих тестов некоторые роботы пытались нарушить работу системы, отправляя ложную информацию или выдавая себя за нескольких агентов. Используя модель cy-trust, кооперативные роботы смогли присвоить подозрительным входным данным более низкие оценки доверия и со временем игнорировать их.
В результате система продолжала эффективно функционировать, несмотря на наличие состязательного поведения, демонстрируя потенциал платформы для повышения устойчивости в реальных приложениях, говорится в пресс-релизе.
Это исследование имеет важное значение для будущего технологий. Такие приложения, как совместное использование автомобилей, автоматизированные системы грузоперевозок и умные города, зависят от надежной координации между машинами. Интегрируя в свою конструкцию принятие решений на основе доверия, эти системы могут стать более безопасными и эффективными. Более того, исследователи подчеркивают, что одной только разработки технических решений недостаточно; политика и правила также должны развиваться, чтобы обеспечить доверие общества к этим технологиям.
Внедрение структуры cy-trust представляет собой важный шаг на пути к построению более безопасных и надежных сетей автономных систем. Позволяя машинам динамически оценивать доверие и управлять им, этот подход решает одну из наиболее важных проблем современной робототехники и искусственного интеллекта. Поскольку эти технологии продолжают проникать в повседневную жизнь, такие инновации будут играть жизненно важную роль в обеспечении их безопасной, ответственной и эффективной работы. Будем следить за развитием.