Особенность третьей волны искусственного интеллекта в том, что она стала актуальна для отдельных государств, каждое из которых пытается предложить свой образ будущего. В этой статье о британском сценарии. Почему он интересен, на какие вопросы дает ответы, а на какие только ищет, и в чем заключается его предложение миру?
Третья волна будет государственной
Третья волна искусственного интеллекта набирает силу. Этому способствует огромный рост объема и качества данных, создание необходимой для рывка вычислительной мощности и появление значительного количества экспертов с особыми навыками высокого уровня (в т.ч., по разработке продвинутых алгоритмов и практики глубокого обучения).
Ее отличие от предыдущих волн в том, что некоторые государства всерьез отнеслись к ее потенциалу. За последние два года сразу пятнадцать стран опубликовали свои стратегии развития ИИ, некоторые — в союзе с другими государствами. Среди них: Канада и Мексика; Китай, Индия, Япония, Сингапур, Южная Корея и Тайвань; Великобритания, Дания, Финляндия, Франция, Италия, Швеция и Европейский Союз; ОАЭ.
Правительства этих стран (к перечисленным выше, как минимум, надо еще добавить США) уверены, что это поможет им сэкономить сегодня, справиться с масштабными вызовами завтра, и предложить свой сценарий развития в последующие дни. В этой публикации мы рассмотрим британский сценарий будущего.
Британский сценарий
Сегодня Великобритания занимает первое место в рейтинге готовности стран к внедрению искусственного интеллекта. Даже если критически отнестись к тому, что это рейтинг Оксфорда, в Королевстве, действительно, есть много отличных исследований в области ИИ, компаний, которые его внедряют, развитая экосистема стартапов. Страна является пионером в области построения e-governance, одним из мировых финансовых лидеров, активно развивает GovTech. И все это происходит в рамках правил, что формирует доверие между участниками рынка и позволяет просчитывать стратегии инвестирования и их риски. Поэтому сегодня, в отличие от многих других стран, Британия решает не вопрос ускоренного внедрения искусственного интеллекта, а вопрос следующего этапа — регулируемого роста.
Чтобы понять ситуацию в стране, мы проанализировали доклад Палаты Лордов, ответ Правительства уважаемым лордам, цифровую хартию, материалы Института Алана Тьюринга и другие документы, и попробовали из тумана выдержанных формулировок официальных докладов выявить ключевые моменты перемен, связанных с переходом страны от внедрения ИИ к его регулированию.
Технонационализм
Если судить по перечисленным документам, одним из принципов, которые Великобритания положила в основу ИИ-регулирования, стал технонационализм.
Приоритет отечественных разработок
- Долгое время ИИ-сектор Великобритании развивался самостоятельно, без регуляции со стороны правительства. В результате было сформировано много низовых стартапов, объединенных культурой риска, ориентацией на результат и потребителя.
- С одной стороны, это хорошо. Такая инвестиционная среда открыта для использования непредсказуемых возможностей, которые может предоставить ИИ, и готова взять на себя соответствующие риски. С другой стороны, горизонтальная сеть низовых стартапов не способна противостоять вертикалям ТНК, преимущественно представляющим США.
- Чтобы избежать сценария монополизации своего ИИ-сектора Британия усиливает регуляторные органы и строит систему государственной поддержки местных компаний всеми возможными способами и на всех этапах развития.
Переход от открытости данных к их ответственному использованию
- Хотя доступ к большим данным является одним из факторов, вызвавших современный бум ИИ, на повестке дня остро стоит вопрос — стоит ли продолжать открывать данные далее? И если стоит, то какие и как?
- Эти вопросы имеют много измерений. Одно из них — это необходимость поддержания баланса между правом на справедливый и разумный доступ к данным (со стороны инновационных компаний, научных кругов, общественных организаций), и правом защитить свою конфиденциальность и личное пространство (граждане и потребители)
- Недавно принятое законодательство, не определяет этого баланса, поэтому в Великобритании пришли к выводу о необходимости разработки новых механизмов. Предполагается, что они будут оперировать понятиями переносимость данных, доверие к ним, ответственное использование. Однако, организационные формы (например, доверительные фонды) еще обсуждаются.
Обеспечение национальной безопасности
- Правительству также ясно, что максимальную выгоду от повышения открытости получат крупные компании, которые и без того контролируют огромные объемы данных.
- Поэтому появилась необходимость ответить на вопросы: что сделать для того, чтобы крупные компании не стали чрезмерно влиятельными? Как обеспечить отечественному малому и среднему бизнесу доступ к большим и качественным данным? Что еще надо сделать, чтобы дать местным шанс на достойную конкуренцию с американскими технологическими компаниями?
- Одним из ответов на последний вопрос стало решение обучать местные компании и общественные организации тому, как коммерциализировать открытые данные для общественного блага. Тем более, что сегодня это сделать проще, чем ранее, — данные разных организаций государственного сектора постепенно переводятся в унифицированные и совместимые форматы. Обучение планируется практичным и будет построено на основе кейсов.
Социальные решения
Сегодня нет уверенности в том, что использование искусственного интеллекта повысит производительность труда, но есть понимание, что он приведет к серьезным переменам на рынке труда и различным социальным последствиям. Для того, чтобы справиться с ними предлагается использовать принцип прозрачности при проектировании ИИ-систем, энергично повышать уровень цифровой грамотности населения, и организовать эффективный мониторинг всех процессов.
Обеспечение прозрачности
- В СМИ часто пишут про будущий мир без работы и появление сверхразумных машин. Это хорошо, так как продвигает тему искусственного интеллекта среди граждан страны и решает вопросы аудитории масс-медиа, оказавшихся сегодня в непростой экономической ситуации.
- Однако, правительство и связанные с ним организации должны высказывать только объективное, взвешенное мнение о плюсах и минусах внедрения ИИ. Аналогичное требование и к производителям, которые должны добровольно и подробно информировать всех пользователей о том, когда и как искусственный интеллект используется для принятия важных или чувствительных решений, и какие последствия это будет иметь.
- Опора на факты и максимальная открытость позволят сформировать доверие всех акторов друг к другу, и отношение к ИИ не как к «Мессии» или «Антихристу», а как к обыденному явлению с соответствующими критериями его оценки и принятия решений.
Развитие мониторинговых программ
- Постоянные перемены требуют совершенствования мониторинговых систем. Например, для рынка труда, чтобы избежать спекуляций и вовремя разработать необходимые меры политики. Для СМИ и соцсетей, чтобы понять какими могут быть меры оперативного информационного противодействия таким спекуляциям.
- Важна обратная связь и активное обсуждение всех вопросов. Например, того, как искусственный интеллект манипулирует цифровыми данными. Это поможет сформировать правила его работы в интересах всех, а не только власти или бизнеса.
- Также потребуется постоянное совершенствование юридических и технических механизмов работы ИИ, в т.ч., с учета растущего запроса населения на рост конфиденциальности и контроля над личными данными.
Перемены в образовании
- Для того, чтобы страна могла развивать ИИ-индустрию, она должна решить четыре задачи: увеличить число ИИ-специалистов, повысить общую цифровую грамотность населения, запустить механизмы развития и постоянной переподготовки рабочей силы, научиться коммерциализировать итоги научных исследований.
- Согласно ответу правительства, в стране уже запущены масштабные образовательные программы в школах (в т.ч., вызвавшие споры о соотношении часов на изучение гуманитарных и естественных предметов), а для увеличения количества ИИ-специалистов открыты дополнительные места в ВУЗах и научных институтах страны, увеличена квота на визы для иностранцев. Остальные механизмы еще разрабатываются.
Актуальные вопросы
Развитие ИИ в стране содержит много вопросов, на которые сегодня нет ответов. Мы рассмотрели два примера.
Как обеспечить регулирование, не теряя темпов развития?
- Искусственный интеллект несет в себе не только огромные возможности, но и такие же риски. Поэтому Британская корона делает ставку на прозрачность ИИ-сервисов и их максимальную открытость для общественного контроля и государственного регулирования.
- Это значит, что если социально значимая ИИ-система не может дать полное и удовлетворительное объяснение принимаемым ею решениям, то она не может быть запущена, так как в этом случае непонятно, как осуществлять текущий контроль ее деятельности, и кто будет нести ответственность за принятые решения. Вот только системы искусственного интеллекта тем и отличаются от алгоритмов, что самообучаются, а значит такое ограничение — это фактический запрет на их развитие. Ответа на то, как разрешить это противоречие, пока не найдено. Со стороны Палаты Лордов предложено Правительству и связанным с ним организациям как можно быстрее найти альтернативные решения.
- Пока же всем компаниям и организациям страны предложено оценить общественное качество своих ИИ-систем и при необходимости доработать их, ведь регуляторы получат право вмешаться и запретить использование непрозрачных ИИ-технологий в чувствительных областях жизни общества. Правда, среди политиков и экспертов до сих пор нет ясности в том, что такое «общественное качество». Считается, что ответ на этот вопрос может быть получен в ходе идущих правительственных консультаций с ИИ-экосистемой и собственными гражданами.
Нужна ли замена юридической системы?
- Лорды Королевства также не нашли ответа на вопрос — потребуется ли создание новых механизмов юридической ответственности и правовой защиты в случае «сбоев» в работе ИИ, или достаточно усовершенствовать существующие?
- Поэтому в своем докладе они обратились к правительству с просьбой как можно быстрее ответить на него в рамках следующих документов, посвященных развитию искусственного интеллекта в стране. А также посвятили несколько абзацев тому, что ответственность за развитие ИИ лежит не только на государстве, но и на обществе, и на самих исследователях, которые как никто другой должны понимать угрозы, которые может нести ИИ для человечества.
Предложение миру
Предложение миру, которое делает Соединенное Королевство, можно сформулировать как совмещение онлайн и оффлайн-миров. Все то, что было описано ранее — лишь результаты предварительного анализа, задачей которого было выявить масштаб вопроса и определить необходимые институты для того, чтобы можно было продолжать движение.
Такими институтами стали Центр консультаций по этике данных и инновациям, который планируется запустить в 2019 году (20 ноября на общественное обсуждение выставлены его предложения о своей работе) и Институт Алана Тьюринга, получивший ресурсы для переформатирования своей работы. Их задача — сопровождать переход страны от разделенного мира онлайн и оффлайн к соединенному.