Представьте себе - человекоподобный робот моет у вас в квартире пол, как вдруг «щёлк», и его детали падают и рассыпаются по всему полу. Вы связываетесь с производителем, который утверждает, что техническое обслуживание, выполненное сторонней компанией, было проведено неправильно; вы связываетесь с ремонтной компанией, которая утверждает, что проблема возникла на заводе. Все спорят, и никто не может предоставить убедительных доказательств.
Это звучит как старая история о потребительских спорах, но проблема становится гораздо серьезнее, когда главным героем оказывается робот, который «может думать и действовать самостоятельно»: это продукт или интеллектуальное существо, требующее постоянного мониторинга?
Ответ становится очевидным. Китай предпринял очень решительный институциональный шаг — выдал «удостоверение личности» каждому человекоподобному роботу.
22 мая Министерство промышленности и информационных технологий опубликовало «Технические требования к управлению полным жизненным циклом человекоподобных роботов», и была введена в эксплуатацию первая в стране платформа управления идентификацией роботов. Каждый человекоподобный робот, покидающий завод, должен получить пожизненно действующую «идентификационную карту». На сегодняшний день эту «идентификационную карту» получили более 100 компаний, более 200 моделей продукции и более 28 000 человекоподобных роботов.
Ключевой момент заключается в том, что это не серийный номер, созданный самой компанией, а 29-значный уникальный идентификатор, унифицированный национальной платформой.
Первая реакция многих людей: разве это не просто серийный номер? У мобильных телефонов есть IMEI, а у автомобилей — VIN, неужели действительно нужно так сильно заморачиваться?
Это необходимо, и чем раньше, тем лучше.
Давайте сначала посмотрим, как выглядит эта «идентификационная карта». Она имеет четырехсегментную структуру: первые две цифры — это код страны, за ними следует четырехзначный код компании, затем шестизначный номер модели продукта и, наконец, семнадцатизначный серийный номер. Всего 29 цифр, охватывающих всю цепочку от производства до разборки.
Эта система кодирования может показаться "похожей на VIN-код", но она решает более сложную задачу, чем VIN-код.
Серийный номер мобильного телефона — это, по сути, внутренний инструмент для компаний: он используется для управления гарантиями, складскими запасами и послепродажным обслуживанием. Разные марки используют разные серийные номера, и он не используется для отслеживания «что этот телефон делал сегодня на улице». VIN-код автомобиля ещё более надёжен, связывая производство, продажи, страхование, управление дорожным движением и сделки с подержанными автомобилями. Он может отслеживать причину аварий и находить транспортные средства во время отзывов, но его основная функция остаётся «управлением имуществом» — кто владеет автомобилем и разрешено ли ему ездить по дорогам.
Гуманоидные роботы — это совсем другое дело. Это воплощенные интеллектуальные агенты, способные воспринимать информацию, принимать решения и действовать автономно. Мобильный телефон не решает сам, кому звонить, а границы принятия решений у беспилотных автомобилей относительно ограничены, в то время как гуманоидные роботы будут перемещать грузы на заводах, сортировать товары на складах и помогать пожилым людям в домах престарелых. В будущем они могут даже войти в ваш дом, чтобы присматривать за детьми, выполнять работу по дому и ухаживать за пациентами.
Когда система начинает "действовать самостоятельно", регулирование уже не может ограничиваться вопросом "кому принадлежит эта машина", а должно также отвечать на более деликатные вопросы:
Что именно было сделано? Какую версию программного обеспечения использовалось? Была ли модель ИИ изменена? Сколько обновлений прошивки было выполнено? Было ли устройство удаленно взломано? Если инцидент произошел, то был ли он вызван аппаратным дефектом, уязвимостью алгоритма, кибератакой или ошибкой пользователя?
Традиционные системы управления продуктами не могут охватить эти аспекты. Суть 29-битной системы кодирования заключается в ответе на совершенно новый вопрос нашего времени: как создать отслеживаемый и проверяемый «поведенческий профиль» для машины, способной мыслить самостоятельно.
Именно поэтому действия Китая, которые кажутся лишь административным управлением, на самом деле представляют собой упреждающее продвижение новой парадигмы управления.
Некоторые могут спросить: искусственный интеллект регулируется и за рубежом, так в чем же разница?
Закон ЕС об искусственном интеллекте классифицирует модули ИИ для человекоподобных роботов как «высокорискованные», требуя от них наличия технической документации, систем управления рисками и нанесения маркировки CE до выхода на рынок. Это скорее «пороговый уровень»: проведена ли оценка и полна ли документация до выхода на рынок; главное — обеспечить соответствие продукта требованиям законодательства на момент выхода на рынок.
Но что происходит после выхода продукта на рынок? Обновления программного обеспечения, итерации моделей и мониторинг поведения на месте — возможности отслеживания подвержены сбоям. ЕС также продвигает «цифровой паспорт продукта», который больше ориентирован на выбросы углекислого газа, долю переработанных материалов и пути переработки, склоняясь к экологически чистой цепочке поставок, но это не то же самое, что «регулирование поведения интеллектуальных агентов».
В Соединенных Штатах ситуация еще проще: на федеральном уровне до сих пор нет специальной системы регистрации человекоподобных роботов, и практически отсутствует какая-либо информация о них.
Поэтому ведущая позиция Китая заключается не в «более красивом написании», а в «более тщательном выполнении»: речь идет не о том, чтобы просто поставить штамп «качественный» продукт и на этом остановиться, а о создании пожизненного цифрового профиля для каждого робота — происхождение оборудования, версия программного обеспечения, статус модели ИИ, записи об обновлениях прошивки, журналы операций, оставляя след на протяжении всего жизненного цикла.
Наиболее очевидная ценность этой системы, безусловно, заключается в упрощении определения ответственности в случае возникновения проблем. По прогнозам экспертов отрасли, более 28 000 роботов уже используются на заводах, в логистике, учреждениях по уходу за пожилыми людьми и в здравоохранении, и стоимость массового производства может упасть ниже 100 000 юаней в течение трех-пяти лет. Однако, как только эти роботы появятся в домах, количество споров и рисков только возрастет. Система идентификации закладывает основу для определения ответственности заранее, значительно уменьшая вероятность возникновения споров.
Но его настоящая сила заключается в его косвенном влиянии — по меньшей мере, на трех уровнях.
Первый уровень: инфраструктура для обеспечения соответствия экспортным требованиям. Китай является крупнейшим производителем и экспортером человекоподобных роботов. ЕС, Япония, Южная Корея и Северная Америка в конечном итоге установят свои собственные правила регулирования робототехники. Если стандарты окажутся несовместимыми, китайские компании могут быть вынуждены оснащать одного и того же робота несколькими системами идентификации, что приведет к чрезвычайно высоким затратам. Первые две цифры китайской системы кодирования — это код страны, естественно, обеспечивающий интерфейс для трансграничного взаимного признания. Если страны в будущем перейдут к взаимному признанию, эта система кодирования, вероятно, станет эталонной моделью.
Второй слой: психологическая основа для общественного принятия. Наибольшее беспокойство у людей по поводу роботов часто вызывает не то, что они «недостаточно умны», а скорее то, что «никто не возьмет на себя ответственность, если что-то пойдет не так». Наличие автономного устройства, «безымянного, неотслеживаемого и без четкого владельца», может инстинктивно вызывать беспокойство. Система отслеживаемой, подотчетной и проверяемой идентификации дает общественности уверенность: у этого робота есть файлы, записи и границы; если что-то пойдет не так, источник можно отследить.
Третий уровень: право устанавливать международные стандарты. Стандарты, касающиеся человекоподобных роботов, от международных организаций, таких как ISO, все еще находятся на стадии разработки. Тот, кто первым предложит работоспособное, масштабируемое и проверяемое решение для управления полным жизненным циклом, будет более компетентен в определении того, «как мир должен им управлять». Китай уже не просто предлагает решения; более 100 компаний, более 200 моделей и более 28 000 роботов уже используют платформу для обработки реальных данных — масштаб, не имеющий аналогов в Китае.
Многие технологические соревнования выигрываются в лаборатории; но истинное лидерство, определяющее поколение, часто достигается за счет сочетания «технологии и системы».
Переход индустрии человекоподобных роботов от лабораторных условий к промышленному производству — это неудержимая тенденция: затраты снижаются, производство растет, а области применения расширяются от заводов до домов. Чем быстрее продолжается эта тенденция, тем сильнее опасения, что «технологии развиваются слишком быстро, а управление не успевает за ними». Если произойдут несколько знаковых инцидентов, это нанесет ущерб не только отдельным компаниям, но и доверию и общественному признанию всей отрасли.
Выдача «идентификационных карт» роботам может показаться холодной и безличной, но именно это закладывает основу для процветающего будущего: обеспечение возможности отслеживания каждого обновления, каждой операции и каждой неисправности, а также гарантия того, что любой спор будет решаться на основе доказательств и правил, а не на основе эмоций и борьбы.
Следующий вопрос заключается в том, сможет ли эта система выдержать испытание в реальных условиях; последуют ли примеру другие крупные робототехнические компании по всему миру или начнут с нуля.
Но по крайней мере одно несомненно: пока другие все еще спорят о том, «следует ли вмешиваться и как вмешиваться», Китай уже заложил основу для «возможности вмешиваться, возможности вмешиваться и возможности вмешиваться устойчиво». Вам может не нравиться «сила» этого шага, но вы вряд ли сможете отрицать его «ранний» характер.