Искусственный интеллект (ИИ) - это универсальный инструмент, который позволяет людям переосмыслить то, как мы интегрируем информацию, анализируем данные и используем полученную информацию для улучшения процесса принятия решений — и он уже трансформирует все сферы жизни. В этом отчете Даррелл Уэст и Джон Аллен обсуждают применение ИИ в различных секторах, рассматривают проблемы в его разработке и предлагают рекомендации по получению максимальной отдачи от ИИ при сохранении важных человеческих ценностей.
Большинство людей не очень хорошо знакомы с концепцией искусственного интеллекта (ИИ). В качестве примера, когда 1500 руководителей высшего звена бизнеса в Соединенных Штатах в 2017 году спросили об искусственном интеллекте, только 17 процентов ответили, что знакомы с ним.1 Некоторые из них не были уверены, что это такое и как это повлияет на их конкретные компании. Они понимали, что существует значительный потенциал для изменения бизнес-процессов, но не понимали, как искусственный интеллект может быть внедрен в их собственных организациях.
Несмотря на широко распространенную непривычность, искусственный интеллект - это технология, которая преобразует все сферы жизни. Это универсальный инструмент, который позволяет людям переосмыслить то, как мы интегрируем информацию, анализируем данные и используем полученную информацию для улучшения процесса принятия решений. Мы надеемся с помощью этого всеобъемлющего обзора объяснить ИИ аудитории политиков, лидеров общественного мнения и заинтересованных наблюдателей и продемонстрировать, как ИИ уже меняет мир и поднимает важные вопросы для общества, экономики и управления.
В этой статье мы обсуждаем новые приложения в финансах, национальной безопасности, здравоохранении, уголовном правосудии, транспорте и "умных городах", а также рассматриваем такие вопросы, как проблемы с доступом к данным, предвзятость алгоритмов, этика и прозрачность искусственного интеллекта и юридическая ответственность за решения искусственного интеллекта. Мы сравниваем подходы США и Европейского союза к регулированию и в заключение даем ряд рекомендаций по получению максимальной отдачи от ИИ при сохранении важных человеческих ценностей.2
Чтобы максимизировать преимущества искусственного интеллекта, мы рекомендуем предпринять девять шагов для продвижения вперед:
- Поощряйте более широкий доступ исследователей к данным без ущерба для личной жизни пользователей,
- инвестируйте больше государственного финансирования в несекретные исследования в области искусственного интеллекта,
- продвигайте новые модели цифрового образования и развития персонала с использованием искусственного интеллекта, чтобы сотрудники обладали навыками, необходимыми в экономике 21-го века,
- создайте федеральный консультативный комитет по искусственному интеллекту для выработки политических рекомендаций,
- взаимодействуйте с государственными и местными чиновниками, чтобы они проводили эффективную политику,
- регулировать общие принципы ИИ, а не конкретные алгоритмы,
- серьезно относитесь к жалобам на предвзятость, чтобы ИИ не повторял историческую несправедливость или дискриминацию в данных или алгоритмах,
- поддерживать механизмы человеческого надзора и подконтрольности, а также
- наказывать вредоносное поведение искусственного интеллекта и продвигать кибербезопасность.
ГЛАВА I
Качества искусственного интеллекта
Хотя единого согласованного определения не существует, считается, что ИИ обычно относится к “машинам, которые реагируют на стимуляцию в соответствии с традиционными реакциями человека, учитывая человеческую способность к размышлению, суждению и намерению”.3 По словам исследователей Шубхенду и Виджая, эти программные системы “принимают решения, которые обычно требуют человеческого уровня знаний” и помогают людям предвидеть проблемы или решать их по мере их возникновения.4 Как таковые, они действуют преднамеренным, интеллектуальным и адаптивным образом.
Интенциональность
Алгоритмы искусственного интеллекта предназначены для принятия решений, часто с использованием данных в режиме реального времени. Они не похожи на пассивные машины, которые способны только на механические или заранее определенные реакции. Используя датчики, цифровые данные или удаленный ввод, они объединяют информацию из множества различных источников, мгновенно анализируют материал и действуют на основе выводов, полученных на основе этих данных. Благодаря значительным улучшениям в системах хранения данных, скорости обработки данных и аналитических методах, они способны к огромной сложности анализа и принятия решений.
Artificial intelligence is already altering the world and raising important questions for society, the economy, and governance.
Intelligence
AI generally is undertaken in conjunction with machine learning and data analytics.5 Machine learning takes data and looks for underlying trends. If it spots something that is relevant for a practical problem, software designers can take that knowledge and use it to analyze specific issues. All that is required are data that are sufficiently robust that algorithms can discern useful patterns. Data can come in the form of digital information, satellite imagery, visual information, text, or unstructured data.
Adaptability
AI systems have the ability to learn and adapt as they make decisions. In the transportation area, for example, semi-autonomous vehicles have tools that let drivers and vehicles know about upcoming congestion, potholes, highway construction, or other possible traffic impediments. Vehicles can take advantage of the experience of other vehicles on the road, without human involvement, and the entire corpus of their achieved “experience” is immediately and fully transferable to other similarly configured vehicles. Their advanced algorithms, sensors, and cameras incorporate experience in current operations, and use dashboards and visual displays to present information in real time so human drivers are able to make sense of ongoing traffic and vehicular conditions. And in the case of fully autonomous vehicles, advanced systems can completely control the car or truck, and make all the navigational decisions.
RELATED CONTENT
CHAPTER II
Applications in diverse sectors
AI is not a futuristic vision, but rather something that is here today and being integrated with and deployed into a variety of sectors. This includes fields such as finance, national security, health care, criminal justice, transportation, and smart cities. There are numerous examples where AI already is making an impact on the world and augmenting human capabilities in significant ways.6
Одной из причин растущей роли ИИ являются огромные возможности для экономического развития, которые он предоставляет. Согласно проекту, проведенному PricewaterhouseCoopers, “технологии искусственного интеллекта могут увеличить мировой ВВП на 15,7 трлн долларов, или на целых 14%, к 2030 году”.7 Это включает авансы в размере 7 трлн долларов в Китае, 3,7 трлн долларов в Северной Америке, 1,8 трлн долларов в Северной Европе, 1,2 трлн долларов в Африке и Океании, 0,9 трлн долларов в остальной Азии за пределами Китая, 0,7 трлн долларов в Южной Европе и 0,5 трлн долларов в Латинской Америке. Китай добивается быстрых успехов, потому что поставил перед собой национальную цель инвестировать 150 миллиардов долларов в искусственный интеллект и стать мировым лидером в этой области к 2030 году.
Тем временем исследование Глобального института McKinsey в Китае показало, что “автоматизация под руководством искусственного интеллекта может повысить производительность китайской экономики, что ежегодно добавит от 0,8 до 1,4 процентных пункта к росту ВВП, в зависимости от скорости внедрения”.8 Хотя его авторы обнаружили, что Китай в настоящее время отстает от Соединенных Штатов и Соединенного Королевства по внедрению искусственного интеллекта, сам размер его рынка искусственного интеллекта дает этой стране огромные возможности для пилотных испытаний и будущих разработок.
Финансы
Инвестиции в финансовый ИИ в Соединенных Штатах утроились в период с 2013 по 2014 год и составили в общей сложности 12,2 миллиарда долларов.9 По мнению наблюдателей в этом секторе, “Решения о займах в настоящее время принимаются программным обеспечением, которое может учитывать множество тщательно проанализированных данных о заемщике, а не просто кредитный рейтинг и проверку биографических данных”.10 Кроме того, существуют так называемые роботы-консультанты, которые “создают персонализированные инвестиционные портфели, устраняя необходимость в биржевых брокерах и финансовых консультантах”.11 Эти достижения предназначены для того, чтобы исключить эмоции при инвестировании и принимать решения, основанные на аналитических соображениях, и делать этот выбор в считанные минуты.
A prominent example of this is taking place in stock exchanges, where high-frequency trading by machines has replaced much of human decisionmaking. People submit buy and sell orders, and computers match them in the blink of an eye without human intervention. Machines can spot trading inefficiencies or market differentials on a very small scale and execute trades that make money according to investor instructions.12 Powered in some places by advanced computing, these tools have much greater capacities for storing information because of their emphasis not on a zero or a one, but on “quantum bits” that can store multiple values in each location.13 That dramatically increases storage capacity and decreases processing times.
Fraud detection represents another way AI is helpful in financial systems. It sometimes is difficult to discern fraudulent activities in large organizations, but AI can identify abnormalities, outliers, or deviant cases requiring additional investigation. That helps managers find problems early in the cycle, before they reach dangerous levels.14
National security
AI plays a substantial role in national defense. Through its Project Maven, the American military is deploying AI “to sift through the massive troves of data and video captured by surveillance and then alert human analysts of patterns or when there is abnormal or suspicious activity.”15 According to Deputy Secretary of Defense Patrick Shanahan, the goal of emerging technologies in this area is “to meet our warfighters’ needs and to increase [the] speed and agility [of] technology development and procurement.”16
Artificial intelligence will accelerate the traditional process of warfare so rapidly that a new term has been coined: hyperwar.
The big data analytics associated with AI will profoundly affect intelligence analysis, as massive amounts of data are sifted in near real time—if not eventually in real time—thereby providing commanders and their staffs a level of intelligence analysis and productivity heretofore unseen. Command and control will similarly be affected as human commanders delegate certain routine, and in special circumstances, key decisions to AI platforms, reducing dramatically the time associated with the decision and subsequent action. In the end, warfare is a time competitive process, where the side able to decide the fastest and move most quickly to execution will generally prevail. Indeed, artificially intelligent intelligence systems, tied to AI-assisted command and control systems, can move decision support and decisionmaking to a speed vastly superior to the speeds of the traditional means of waging war. So fast will be this process, especially if coupled to automatic decisions to launch artificially intelligent autonomous weapons systems capable of lethal outcomes, that a new term has been coined specifically to embrace the speed at which war will be waged: hyperwar.
While the ethical and legal debate is raging over whether America will ever wage war with artificially intelligent autonomous lethal systems, the Chinese and Russians are not nearly so mired in this debate, and we should anticipate our need to defend against these systems operating at hyperwar speeds. The challenge in the West of where to position “humans in the loop” in a hyperwar scenario will ultimately dictate the West’s capacity to be competitive in this new form of conflict.17
Just as AI will profoundly affect the speed of warfare, the proliferation of zero day or zero second cyber threats as well as polymorphic malware will challenge even the most sophisticated signature-based cyber protection. This forces significant improvement to existing cyber defenses. Increasingly, vulnerable systems are migrating, and will need to shift to a layered approach to cybersecurity with cloud-based, cognitive AI platforms. This approach moves the community toward a “thinking” defensive capability that can defend networks through constant training on known threats. This capability includes DNA-level analysis of heretofore unknown code, with the possibility of recognizing and stopping inbound malicious code by recognizing a string component of the file. This is how certain key U.S.-based systems stopped the debilitating “WannaCry” and “Petya” viruses.
Подготовка к гипервойне и защита критически важных киберсетей должны стать первоочередной задачей, потому что Китай, Россия, Северная Корея и другие страны вкладывают значительные ресурсы в ИИ. В 2017 году Государственный совет Китая опубликовал план по “созданию отечественной промышленности стоимостью почти в 150 миллиардов долларов” к 2030 году.18 В качестве примера возможностей китайская поисковая компания Baidu впервые разработала приложение для распознавания лиц, которое находит пропавших людей. Кроме того, такие города, как Шэньчжэнь, выделяют до 1 миллиона долларов на поддержку лабораторий искусственного интеллекта. Эта страна надеется, что искусственный интеллект обеспечит безопасность, борьбу с терроризмом и улучшит программы распознавания речи.19 Природа двойного использования многих алгоритмов искусственного интеллекта будет означать, что исследования искусственного интеллекта, ориентированные на один сектор общества, могут быть быстро модифицированы для использования и в сфере безопасности.20
Здравоохранение
Инструменты искусственного интеллекта помогают дизайнерам повышать вычислительную сложность в здравоохранении. Например, Merantix - немецкая компания, которая применяет глубокое обучение в медицинских вопросах. У него есть приложение для медицинской визуализации, которое “обнаруживает лимфатические узлы в организме человека на изображениях компьютерной томографии (КТ)”.21 По словам его разработчиков, ключевым моментом является маркировка узлов и выявление небольших поражений или новообразований, которые могут вызвать проблемы. Люди могут это делать, но радиологи берут 100 долларов в час и могут внимательно считывать только четыре снимка в час. Если бы было 10 000 изображений, стоимость этого процесса составила бы 250 000 долларов, что непомерно дорого для людей.
Что глубокое обучение может сделать в этой ситуации, так это обучить компьютеры работать с наборами данных, чтобы узнать, что такое лимфатический узел нормального вида и что такое лимфатический узел неправильной формы. Проделав это с помощью упражнений по визуализации и оттачивая точность маркировки, специалисты по радиологической визуализации могут применить эти знания к реальным пациентам и определить степень риска развития рака лимфатических узлов. Поскольку лишь немногие из них, вероятно, дадут положительный результат теста, важно определить, какой узел нездоровый, а какой здоровый.
AI has been applied to congestive heart failure as well, an illness that afflicts 10 percent of senior citizens and costs $35 billion each year in the United States. AI tools are helpful because they “predict in advance potential challenges ahead and allocate resources to patient education, sensing, and proactive interventions that keep patients out of the hospital.”22
Criminal justice
AI is being deployed in the criminal justice area. The city of Chicago has developed an AI-driven “Strategic Subject List” that analyzes people who have been arrested for their risk of becoming future perpetrators. It ranks 400,000 people on a scale of 0 to 500, using items such as age, criminal activity, victimization, drug arrest records, and gang affiliation. In looking at the data, analysts found that youth is a strong predictor of violence, being a shooting victim is associated with becoming a future perpetrator, gang affiliation has little predictive value, and drug arrests are not significantly associated with future criminal activity.23
Judicial experts claim AI programs reduce human bias in law enforcement and leads to a fairer sentencing system. R Street Institute Associate Caleb Watney writes:
Empirically grounded questions of predictive risk analysis play to the strengths of machine learning, automated reasoning and other forms of AI. One machine-learning policy simulation concluded that such programs could be used to cut crime up to 24.8 percent with no change in jailing rates, or reduce jail populations by up to 42 percent with no increase in crime rates.24
However, critics worry that AI algorithms represent “a secret system to punish citizens for crimes they haven’t yet committed. The risk scores have been used numerous times to guide large-scale roundups.”25 The fear is that such tools target people of color unfairly and have not helped Chicago reduce the murder wave that has plagued it in recent years.
Despite these concerns, other countries are moving ahead with rapid deployment in this area. In China, for example, companies already have “considerable resources and access to voices, faces and other biometric data in vast quantities, which would help them develop their technologies.”26 New technologies make it possible to match images and voices with other types of information, and to use AI on these combined data sets to improve law enforcement and national security. Through its “Sharp Eyes” program, Chinese law enforcement is matching video images, social media activity, online purchases, travel records, and personal identity into a “police cloud.” This integrated database enables authorities to keep track of criminals, potential law-breakers, and terrorists.27 Put differently, China has become the world’s leading AI-powered surveillance state.
Transportation
Транспорт представляет собой область, где искусственный интеллект и машинное обучение создают серьезные инновации. Исследование Кэмерона Керри и Джека Карстена из Института Брукингса показало, что в период с августа 2014 по июнь 2017 года в технологии автономных транспортных средств было инвестировано более 80 миллиардов долларов. Эти инвестиции включают приложения как для автономного вождения, так и для основных технологий, жизненно важных для этого сектора.28
Автономные транспортные средства — легковые автомобили, грузовики, автобусы и системы доставки дронов - используют передовые технологические возможности. Эти функции включают автоматизированное управление транспортными средствами и торможение, системы смены полосы движения, использование камер и датчиков для предотвращения столкновений, использование ИИ для анализа информации в режиме реального времени, а также использование высокопроизводительных вычислений и систем глубокого обучения для адаптации к новым обстоятельствам с помощью подробных карт.29
Системы обнаружения света и определения дальности (лидары) и искусственный интеллект являются ключевыми для навигации и предотвращения столкновений. Лидарные системы сочетают в себе световые и радиолокационные приборы. Они устанавливаются на крышах транспортных средств и используют изображение в 360-градусном пространстве с помощью радара и световых лучей для измерения скорости и расстояния до окружающих объектов. Наряду с датчиками, размещенными спереди, по бокам и сзади автомобиля, эти приборы предоставляют информацию, которая удерживает быстро движущиеся легковые и грузовые автомобили на их собственной полосе движения, помогает им объезжать другие транспортные средства, при необходимости задействовать тормоза и рулевое управление и делает это мгновенно, чтобы избежать аварий.
Современное программное обеспечение позволяет автомобилям учиться на опыте других транспортных средств на дороге и корректировать свои системы управления в зависимости от погоды, вождения или дорожных условий. Это означает, что ключевым фактором является программное обеспечение, а не сам физический автомобиль или грузовик.
Since these cameras and sensors compile a huge amount of information and need to process it instantly to avoid the car in the next lane, autonomous vehicles require high-performance computing, advanced algorithms, and deep learning systems to adapt to new scenarios. This means that software is the key, not the physical car or truck itself.30 Advanced software enables cars to learn from the experiences of other vehicles on the road and adjust their guidance systems as weather, driving, or road conditions change.31
Ride-sharing companies are very interested in autonomous vehicles. They see advantages in terms of customer service and labor productivity. All of the major ride-sharing companies are exploring driverless cars. The surge of car-sharing and taxi services—such as Uber and Lyft in the United States, Daimler’s Mytaxi and Hailo service in Great Britain, and Didi Chuxing in China—demonstrate the opportunities of this transportation option. Uber recently signed an agreement to purchase 24,000 autonomous cars from Volvo for its ride-sharing service.32
However, the ride-sharing firm suffered a setback in March 2018 when one of its autonomous vehicles in Arizona hit and killed a pedestrian. Uber and several auto manufacturers immediately suspended testing and launched investigations into what went wrong and how the fatality could have occurred.33 Both industry and consumers want reassurance that the technology is safe and able to deliver on its stated promises. Unless there are persuasive answers, this accident could slow AI advancements in the transportation sector.
Smart cities
Metropolitan governments are using AI to improve urban service delivery. For example, according to Kevin Desouza, Rashmi Krishnamurthy, and Gregory Dawson:
The Cincinnati Fire Department is using data analytics to optimize medical emergency responses. The new analytics system recommends to the dispatcher an appropriate response to a medical emergency call—whether a patient can be treated on-site or needs to be taken to the hospital—by taking into account several factors, such as the type of call, location, weather, and similar calls.34
Since it fields 80,000 requests each year, Cincinnati officials are deploying this technology to prioritize responses and determine the best ways to handle emergencies. They see AI as a way to deal with large volumes of data and figure out efficient ways of responding to public requests. Rather than address service issues in an ad hoc manner, authorities are trying to be proactive in how they provide urban services.
Cincinnati is not alone. A number of metropolitan areas are adopting smart city applications that use AI to improve service delivery, environmental planning, resource management, energy utilization, and crime prevention, among other things. For its smart cities index, the magazine Fast Company ranked American locales and found Seattle, Boston, San Francisco, Washington, D.C., and New York City as the top adopters. Seattle, for example, has embraced sustainability and is using AI to manage energy usage and resource management. Boston has launched a “City Hall To Go” that makes sure underserved communities receive needed public services. It also has deployed “cameras and inductive loops to manage traffic and acoustic sensors to identify gun shots.” San Francisco has certified 203 buildings as meeting LEED sustainability standards.35
Through these and other means, metropolitan areas are leading the country in the deployment of AI solutions. Indeed, according to a National League of Cities report, 66 percent of American cities are investing in smart city technology. Among the top applications noted in the report are “smart meters for utilities, intelligent traffic signals, e-governance applications, Wi-Fi kiosks, and radio frequency identification sensors in pavement.”36
ГЛАВА III
Политические, нормативные и этические вопросы
Эти примеры из самых разных секторов демонстрируют, как искусственный интеллект трансформирует многие сферы человеческого существования. Растущее проникновение искусственного интеллекта и автономных устройств во многие аспекты жизни меняет основные операции и процесс принятия решений в организациях, а также повышает эффективность и время реагирования.
Однако в то же время эти разработки поднимают важные политические, нормативные и этические вопросы. Например, как мы должны расширять доступ к данным? Как мы защищаемся от предвзятых или недобросовестных данных, используемых в алгоритмах? Какие этические принципы внедряются при разработке программного обеспечения и насколько прозрачными должны быть дизайнеры в отношении своего выбора? Как насчет вопросов юридической ответственности в случаях, когда алгоритмы наносят вред?37
Растущее проникновение ИИ во многие аспекты жизни меняет процесс принятия решений в организациях и повышает эффективность. Однако в то же время эти события поднимают важные политические, нормативные и этические вопросы.
Data access problems
The key to getting the most out of AI is having a “data-friendly ecosystem with unified standards and cross-platform sharing.” AI depends on data that can be analyzed in real time and brought to bear on concrete problems. Having data that are “accessible for exploration” in the research community is a prerequisite for successful AI development.38
Согласно исследованию Глобального института McKinsey, страны, которые продвигают открытые источники данных и обмен данными, с наибольшей вероятностью увидят прогресс в области искусственного интеллекта. В этом отношении Соединенные Штаты имеют существенное преимущество перед Китаем. Глобальные рейтинги открытости данных показывают, что США занимают восьмое место в мире по сравнению с 93-м местом для Китая.39
Но прямо сейчас в Соединенных Штатах нет согласованной национальной стратегии в области данных. Существует несколько протоколов для содействия доступу к исследованиям или платформ, которые позволяют получать новую информацию из закрытых данных. Не всегда ясно, кому принадлежат данные и какой объем принадлежит государственной сфере. Эти неопределенности ограничивают инновационную экономику и тормозят академические исследования. В следующем разделе мы описываем способы улучшения доступа исследователей к данным.
Искажения в данных и алгоритмах
Считается, что в некоторых случаях определенные системы искусственного интеллекта допускают дискриминационную или предвзятую практику.40 Например, Airbnb обвинили в том, что на его платформе работают домовладельцы, которые дискриминируют расовые меньшинства. Исследовательский проект, проведенный Гарвардской школой бизнеса, показал, что “у пользователей Airbnb с явно афроамериканскими именами вероятность быть принятыми в качестве гостей примерно на 16 процентов ниже, чем у пользователей с явно белыми именами”.41
Расовые проблемы также возникают с помощью программного обеспечения для распознавания лиц. Большинство таких систем работают путем сравнения лица человека с рядом лиц в большой базе данных. Как отметила Джой Буоламвини из Алгоритмической Лиги справедливости, “Если ваши данные по распознаванию лиц содержат в основном лица европеоидной расы, это то, что ваша программа научится распознавать”.42 Если базы данных не имеют доступа к разнообразным данным, эти программы плохо работают при попытке распознать черты лица афроамериканцев или азиатов.
Many historical data sets reflect traditional values, which may or may not represent the preferences wanted in a current system. As Buolamwini notes, such an approach risks repeating inequities of the past:
The rise of automation and the increased reliance on algorithms for high-stakes decisions such as whether someone get insurance or not, your likelihood to default on a loan or somebody’s risk of recidivism means this is something that needs to be addressed. Even admissions decisions are increasingly automated—what school our children go to and what opportunities they have. We don’t have to bring the structural inequalities of the past into the future we create.43
AI ethics and transparency
Algorithms embed ethical considerations and value choices into program decisions. As such, these systems raise questions concerning the criteria used in automated decisionmaking. Some people want to have a better understanding of how algorithms function and what choices are being made.44
In the United States, many urban schools use algorithms for enrollment decisions based on a variety of considerations, such as parent preferences, neighborhood qualities, income level, and demographic background. According to Brookings researcher Jon Valant, the New Orleans–based Bricolage Academy “gives priority to economically disadvantaged applicants for up to 33 percent of available seats. In practice, though, most cities have opted for categories that prioritize siblings of current students, children of school employees, and families that live in school’s broad geographic area.”45 Enrollment choices can be expected to be very different when considerations of this sort come into play.
В зависимости от того, как настроены системы искусственного интеллекта, они могут способствовать пересмотру заявок на ипотеку, помогать людям дискриминировать лиц, которые им не нравятся, или помогать отбирать или составлять списки лиц на основе несправедливых критериев. Типы соображений, которые учитываются при принятии программных решений, имеют большое значение с точки зрения того, как работают системы и как они влияют на клиентов.46
По этим причинам ЕС внедряет Общие правила защиты данных (GDPR) в мае 2018 года. В правилах указано, что люди имеют “право отказаться от персональной рекламы” и “могут оспаривать ”законные или аналогично значимые" решения, принимаемые алгоритмами, и апеллировать к вмешательству человека" в форме объяснения того, как алгоритм добился определенного результата. Каждое руководство разработано для обеспечения защиты персональных данных и предоставления отдельным лицам информации о том, как работает “черный ящик”.47
Юридическая ответственность
Есть вопросы, касающиеся юридической ответственности систем искусственного интеллекта. В случае причинения вреда или нарушений (или гибели людей в случае беспилотных автомобилей) операторы алгоритма, вероятно, подпадут под действие правил ответственности за продукт. Совокупность прецедентного права показала, что факты и обстоятельства ситуации определяют ответственность и влияют на вид налагаемых наказаний. Они могут варьироваться от гражданских штрафов до тюремного заключения за причинение крупного ущерба.48 Смертельный случай, связанный с Uber, в Аризоне станет важным испытательным случаем для юридической ответственности. Штат активно привлекал Uber к тестированию своих автономных транспортных средств и предоставил компании значительную свободу действий в плане дорожных испытаний. Пока неизвестно, будут ли судебные иски по этому делу и на кого подадут в суд: на человека-водителя, штат Аризона, пригород Финикса, где произошла авария, Uber, разработчиков программного обеспечения или производителя автомобилей. Учитывая множество людей и организаций, участвующих в дорожных испытаниях, необходимо решить множество юридических вопросов.
In non-transportation areas, digital platforms often have limited liability for what happens on their sites. For example, in the case of Airbnb, the firm “requires that people agree to waive their right to sue, or to join in any class-action lawsuit or class-action arbitration, to use the service.” By demanding that its users sacrifice basic rights, the company limits consumer protections and therefore curtails the ability of people to fight discrimination arising from unfair algorithms.49 But whether the principle of neutral networks holds up in many sectors is yet to be determined on a widespread basis.
CHAPTER IV
Recommendations
Чтобы сбалансировать инновации с основными человеческими ценностями, мы предлагаем ряд рекомендаций по продвижению ИИ вперед. Это включает улучшение доступа к данным, увеличение государственных инвестиций в ИИ, содействие развитию персонала для ИИ, создание федерального консультативного комитета, взаимодействие с государственными и местными должностными лицами для обеспечения принятия ими эффективной политики, регулирование общих целей, а не конкретных алгоритмов, серьезное отношение к предвзятости как к проблеме ИИ, поддержание механизмов контроля и надзора со стороны человека, а также наказание за вредоносное поведение и продвижение кибербезопасности.
Улучшение доступа к данным
Соединенным Штатам следует разработать стратегию обработки данных, способствующую инновациям и защите прав потребителей. В настоящее время не существует единых стандартов в отношении доступа к данным, обмена данными или их защиты. Почти все данные являются собственностью по своей природе и не очень широко передаются исследовательскому сообществу, и это ограничивает инновации и разработку систем. ИИ требуются данные для тестирования и повышения его обучаемости.50 Без структурированных и неструктурированных наборов данных будет практически невозможно в полной мере воспользоваться преимуществами искусственного интеллекта.
В целом исследовательское сообщество нуждается в улучшении доступа к правительственным и деловым данным, хотя и с соответствующими мерами предосторожности, позволяющими исследователям не злоупотреблять данными так, как Cambridge Analytica сделала с информацией Facebook. Существует множество способов, которыми исследователи могут получить доступ к данным. Один из них - через добровольные соглашения с компаниями, владеющими конфиденциальными данными. Facebook, например, недавно объявила о партнерстве с экономистом из Стэнфорда Раджем Четти, чтобы использовать данные своих социальных сетей для изучения неравенства.51 В рамках соглашения исследователи должны были проходить проверку биографических данных и могли получать доступ к данным только с защищенных сайтов в целях защиты конфиденциальности и безопасности пользователей.
In the U.S., there are no uniform standards in terms of data access, data sharing, or data protection. Almost all the data are proprietary in nature and not shared very broadly with the research community, and this limits innovation and system design.
Google long has made available search results in aggregated form for researchers and the general public. Through its “Trends” site, scholars can analyze topics such as interest in Trump, views about democracy, and perspectives on the overall economy.52 That helps people track movements in public interest and identify topics that galvanize the general public.
Twitter makes much of its tweets available to researchers through application programming interfaces, commonly referred to as APIs. These tools help people outside the company build application software and make use of data from its social media platform. They can study patterns of social media communications and see how people are commenting on or reacting to current events.
In some sectors where there is a discernible public benefit, governments can facilitate collaboration by building infrastructure that shares data. For example, the National Cancer Institute has pioneered a data-sharing protocol where certified researchers can query health data it has using de-identified information drawn from clinical data, claims information, and drug therapies. That enables researchers to evaluate efficacy and effectiveness, and make recommendations regarding the best medical approaches, without compromising the privacy of individual patients.
There could be public-private data partnerships that combine government and business data sets to improve system performance. For example, cities could integrate information from ride-sharing services with its own material on social service locations, bus lines, mass transit, and highway congestion to improve transportation. That would help metropolitan areas deal with traffic tie-ups and assist in highway and mass transit planning.
Some combination of these approaches would improve data access for researchers, the government, and the business community, without impinging on personal privacy. As noted by Ian Buck, the vice president of NVIDIA, “Data is the fuel that drives the AI engine. The federal government has access to vast sources of information. Opening access to that data will help us get insights that will transform the U.S. economy.”53 Through its Data.gov portal, the federal government already has put over 230,000 data sets into the public domain, and this has propelled innovation and aided improvements in AI and data analytic technologies.54 The private sector also needs to facilitate research data access so that society can achieve the full benefits of artificial intelligence.
Increase government investment in AI
По словам Грега Брокмана, соучредителя OpenAI, федеральное правительство США инвестирует всего 1,1 миллиарда долларов в несекретные технологии искусственного интеллекта.55 Это намного меньше, чем сумма, затрачиваемая Китаем или другими ведущими странами в этой области исследований. Этот дефицит заслуживает внимания, поскольку экономическая отдача от ИИ существенна. Чтобы стимулировать экономическое развитие и социальные инновации, федеральным чиновникам необходимо увеличить инвестиции в искусственный интеллект и аналитику данных. Более высокие инвестиции, вероятно, многократно окупятся экономическими и социальными выгодами.56
Содействие цифровому образованию и развитию рабочей силы
По мере ускорения применения искусственного интеллекта во многих секторах жизненно важно, чтобы мы переосмыслили наши образовательные учреждения для мира, где искусственный интеллект будет повсеместным, а учащимся потребуется подготовка иного рода, чем та, которую они получают в настоящее время. Прямо сейчас многие студенты не получают обучения тем навыкам, которые потребуются в условиях, когда доминирует искусственный интеллект. Например, в настоящее время ощущается нехватка специалистов по обработке данных, компьютерщиков, инженеров, программистов и разработчиков платформ. Этих навыков не хватает; если наша система образования не создаст больше людей с такими способностями, это ограничит развитие ИИ.
По этим причинам правительства штатов и федеральные правительства инвестируют в человеческий капитал ИИ. Например, в 2017 году Национальный научный фонд профинансировал более 6500 аспирантов в областях, связанных с компьютерами, и запустил несколько новых инициатив, направленных на поощрение данных и информатики на всех уровнях - от дошкольного до высшего и непрерывного образования.57 Цель состоит в том, чтобы создать более широкую сеть специалистов по искусственному интеллекту и анализу данных, чтобы Соединенные Штаты могли в полной мере воспользоваться преимуществами революции в области знаний.
But there also needs to be substantial changes in the process of learning itself. It is not just technical skills that are needed in an AI world but skills of critical reasoning, collaboration, design, visual display of information, and independent thinking, among others. AI will reconfigure how society and the economy operate, and there needs to be “big picture” thinking on what this will mean for ethics, governance, and societal impact. People will need the ability to think broadly about many questions and integrate knowledge from a number of different areas.
One example of new ways to prepare students for a digital future is IBM’s Teacher Advisor program, utilizing Watson’s free online tools to help teachers bring the latest knowledge into the classroom. They enable instructors to develop new lesson plans in STEM and non-STEM fields, find relevant instructional videos, and help students get the most out of the classroom.58 As such, they are precursors of new educational environments that need to be created.
Create a federal AI advisory committee
Federal officials need to think about how they deal with artificial intelligence. As noted previously, there are many issues ranging from the need for improved data access to addressing issues of bias and discrimination. It is vital that these and other concerns be considered so we gain the full benefits of this emerging technology.
In order to move forward in this area, several members of Congress have introduced the “Future of Artificial Intelligence Act,” a bill designed to establish broad policy and legal principles for AI. It proposes the secretary of commerce create a federal advisory committee on the development and implementation of artificial intelligence. The legislation provides a mechanism for the federal government to get advice on ways to promote a “climate of investment and innovation to ensure the global competitiveness of the United States,” “optimize the development of artificial intelligence to address the potential growth, restructuring, or other changes in the United States workforce,” “support the unbiased development and application of artificial intelligence,” and “protect the privacy rights of individuals.”59
Among the specific questions the committee is asked to address include the following: competitiveness, workforce impact, education, ethics training, data sharing, international cooperation, accountability, machine learning bias, rural impact, government efficiency, investment climate, job impact, bias, and consumer impact. The committee is directed to submit a report to Congress and the administration 540 days after enactment regarding any legislative or administrative action needed on AI.
Этот закон является шагом в правильном направлении, хотя сфера развивается настолько быстро, что мы бы рекомендовали сократить сроки представления отчетности с 540 дней до 180 дней. Почти двухлетнее ожидание отчета комитета, безусловно, приведет к упущенным возможностям и бездействию по важным вопросам. Учитывая стремительный прогресс в этой области, было бы весьма полезно значительно сократить время проведения анализа комитетом.
Взаимодействие с государственными и местными чиновниками
Штаты и населенные пункты также принимают меры в области искусственного интеллекта. Например, Городской совет Нью-Йорка единогласно принял законопроект, предписывающий мэру сформировать целевую группу, которая “следила бы за справедливостью и валидностью алгоритмов, используемых муниципальными учреждениями”.60 Город использует алгоритмы, чтобы “определить, будет ли неимущему обвиняемому назначен меньший залог, где будут созданы пожарные части, распределены ли учащиеся в государственные школы, оценить работу учителей, выявить мошенничество по программе Medicaid и определить, где преступление произойдет следующим”.61
По словам разработчиков законодательства, городские власти хотят знать, как работают эти алгоритмы, и убедиться в достаточной прозрачности и подотчетности искусственного интеллекта. Кроме того, существуют опасения по поводу справедливости и предвзятости алгоритмов искусственного интеллекта, поэтому целевой группе было поручено проанализировать эти проблемы и дать рекомендации относительно будущего использования. К концу 2019 года планируется представить мэру отчет по ряду политических, правовых и нормативных вопросов в области искусственного интеллекта.
Some observers already are worrying that the taskforce won’t go far enough in holding algorithms accountable. For example, Julia Powles of Cornell Tech and New York University argues that the bill originally required companies to make the AI source code available to the public for inspection, and that there be simulations of its decisionmaking using actual data. After criticism of those provisions, however, former Councilman James Vacca dropped the requirements in favor of a task force studying these issues. He and other city officials were concerned that publication of proprietary information on algorithms would slow innovation and make it difficult to find AI vendors who would work with the city.62 It remains to be seen how this local task force will balance issues of innovation, privacy, and transparency.
Regulate broad objectives more than specific algorithms
The European Union has taken a restrictive stance on these issues of data collection and analysis.63 It has rules limiting the ability of companies from collecting data on road conditions and mapping street views. Because many of these countries worry that people’s personal information in unencrypted Wi-Fi networks are swept up in overall data collection, the EU has fined technology firms, demanded copies of data, and placed limits on the material collected.64 This has made it more difficult for technology companies operating there to develop the high-definition maps required for autonomous vehicles.
The GDPR being implemented in Europe place severe restrictions on the use of artificial intelligence and machine learning. According to published guidelines, “Regulations prohibit any automated decision that ‘significantly affects’ EU citizens. This includes techniques that evaluates a person’s ‘performance at work, economic situation, health, personal preferences, interests, reliability, behavior, location, or movements.’”65 In addition, these new rules give citizens the right to review how digital services made specific algorithmic choices affecting people.
By taking a restrictive stance on issues of data collection and analysis, the European Union is putting its manufacturers and software designers at a significant disadvantage to the rest of the world.
При жесткой интерпретации эти правила затруднят европейским разработчикам программного обеспечения (и американским дизайнерам, которые работают с европейскими коллегами) внедрение искусственного интеллекта и картографирования высокой четкости в автономные транспортные средства. Центральное место в навигации в этих легковых и грузовых автомобилях занимает отслеживание местоположения и передвижений. Без карт высокой четкости, содержащих геокодированные данные, и глубокого обучения, использующего эту информацию, полностью автономное вождение в Европе застопорится. Благодаря этим и другим мерам по защите данных Европейский союз ставит своих производителей и разработчиков программного обеспечения в значительно невыгодное положение по сравнению с остальным миром.
Имеет больше смысла думать о широких целях, к которым стремится искусственный интеллект, и проводить политику, способствующую их достижению, в отличие от попыток правительств вскрыть “черные ящики” и точно увидеть, как работают конкретные алгоритмы. Регулирование отдельных алгоритмов ограничит инновации и затруднит компаниям использование искусственного интеллекта.
Серьезно относитесь к предубеждениям
Предвзятость и дискриминация являются серьезными проблемами для ИИ. Уже был ряд случаев несправедливого обращения, связанных с историческими данными, и необходимо предпринять шаги, чтобы убедиться, что это не станет распространенным явлением в искусственном интеллекте. Существующие законы, регулирующие дискриминацию в физической экономике, необходимо распространить на цифровые платформы. Это поможет защитить потребителей и укрепить доверие к этим системам в целом.
Для широкого внедрения этих достижений необходимо больше прозрачности в том, как работают системы искусственного интеллекта. Эндрю Берт из Immuta утверждает: “Ключевая проблема, стоящая перед прогностической аналитикой, на самом деле заключается в прозрачности. Мы живем в мире, где операции с данными берут на себя все более важные задачи, и единственное, что их сдерживает, - это то, насколько хорошо специалисты по обработке данных, которые обучают модели, могут объяснить, что именно делают их модели ”.66
Maintaining mechanisms for human oversight and control
Some individuals have argued that there needs to be avenues for humans to exercise oversight and control of AI systems. For example, Allen Institute for Artificial Intelligence CEO Oren Etzioni argues there should be rules for regulating these systems. First, he says, AI must be governed by all the laws that already have been developed for human behavior, including regulations concerning “cyberbullying, stock manipulation or terrorist threats,” as well as “entrap[ping] people into committing crimes.” Second, he believes that these systems should disclose they are automated systems and not human beings. Third, he states, “An A.I. system cannot retain or disclose confidential information without explicit approval from the source of that information.”67 His rationale is that these tools store so much data that people have to be cognizant of the privacy risks posed by AI.
В том же духе Глобальная инициатива IEEE разработала этические рекомендации для ИИ и автономных систем. Ее эксперты предлагают программировать эти модели с учетом общепринятых человеческих норм и правил поведения. Алгоритмы искусственного интеллекта должны учитывать важность этих норм, способы разрешения конфликта норм и способы, с помощью которых эти системы могут быть прозрачными в отношении разрешения норм. По мнению экспертов по этике, дизайн программного обеспечения должен быть запрограммирован на “отсутствие обмана” и “честность”. При возникновении сбоев должны существовать механизмы смягчения последствий. В частности, ИИ должен быть чувствителен к таким проблемам, как предвзятость, дискриминация и справедливость.68
Группа экспертов по машинному обучению утверждает, что возможно автоматизировать принятие этичных решений. Используя проблему с троллейбусом в качестве моральной дилеммы, они задают следующий вопрос: если автономный автомобиль выходит из-под контроля, должен ли он быть запрограммирован на убийство собственных пассажиров или пешеходов, переходящих улицу? Они разработали ”систему, основанную на голосовании", которая попросила 1,3 миллиона человек оценить альтернативные сценарии, обобщила общий выбор и применила общую точку зрения этих людей к ряду возможностей использования транспортных средств. Это позволило им автоматизировать принятие этичных решений с помощью алгоритмов искусственного интеллекта с учетом общественных предпочтений.69 Эта процедура, конечно, не уменьшает трагедии, связанной с каким-либо смертельным исходом, как, например, в случае с Uber, но она предоставляет механизм, помогающий разработчикам ИИ учитывать этические соображения при планировании.
Наказывать за вредоносное поведение и продвигать кибербезопасность
Как и в случае с любой новой технологией, важно препятствовать вредоносному обращению, направленному на обман программного обеспечения или его использование в нежелательных целях.70 Это особенно важно, учитывая аспекты двойного назначения искусственного интеллекта, когда один и тот же инструмент может быть использован в выгодных или злонамеренных целях. Злонамеренное использование ИИ подвергает отдельных лиц и организации ненужным рискам и подрывает достоинства новой технологии. Сюда входят такие формы поведения, как взлом, манипулирование алгоритмами, нарушение неприкосновенности частной жизни или кража личных данных. Попытки перехватить ИИ с целью получения конфиденциальной информации должны серьезно наказываться как способ сдерживания подобных действий.71
In a rapidly changing world with many entities having advanced computing capabilities, there needs to be serious attention devoted to cybersecurity. Countries have to be careful to safeguard their own systems and keep other nations from damaging their security.72 According to the U.S. Department of Homeland Security, a major American bank receives around 11 million calls a week at its service center. In order to protect its telephony from denial of service attacks, it uses a “machine learning-based policy engine [that] blocks more than 120,000 calls per month based on voice firewall policies including harassing callers, robocalls and potential fraudulent calls.”73 This represents a way in which machine learning can help defend technology systems from malevolent attacks.
CHAPTER V
Conclusion
To summarize, the world is on the cusp of revolutionizing many sectors through artificial intelligence and data analytics. There already are significant deployments in finance, national security, health care, criminal justice, transportation, and smart cities that have altered decisionmaking, business models, risk mitigation, and system performance. These developments are generating substantial economic and social benefits.
The world is on the cusp of revolutionizing many sectors through artificial intelligence, but the way AI systems are developed need to be better understood due to the major implications these technologies will have for society as a whole.
Yet the manner in which AI systems unfold has major implications for society as a whole. It matters how policy issues are addressed, ethical conflicts are reconciled, legal realities are resolved, and how much transparency is required in AI and data analytic solutions.74 Human choices about software development affect the way in which decisions are made and the manner in which they are integrated into organizational routines. Exactly how these processes are executed need to be better understood because they will have substantial impact on the general public soon, and for the foreseeable future. AI may well be a revolution in human affairs, and become the single most influential human innovation in history.
Примечание: Мы ценим исследовательскую помощь Грейс Гилберг, Джека Карстена, Хиллари Шауб и Кристьяна Томассона в этом проекте.
Институт Брукингса - некоммерческая организация, занимающаяся независимыми исследованиями и политическими решениями. Его миссия заключается в проведении высококачественных независимых исследований и, на основе этих исследований, предоставлении инновационных практических рекомендаций для политиков и общественности. Выводы и рекомендации любой публикации Brookings принадлежат исключительно ее автору (авторам) и не отражают точку зрения Учреждения, его руководства или других ученых.
Поддержка этой публикации была щедро оказана Amazon. Brookings признает, что ценность, которую она представляет, заключается в ее абсолютной приверженности качеству, независимости и результативности. Мероприятия, поддерживаемые ее донорами, отражают эту приверженность.
Джон Р. Аллен является членом совета консультантов Amida Technology и Совета директоров Spark Cognition. Обе компании работают в областях, обсуждаемых в этом материале.