На днях основатель Microsoft Билл Гейтс опубликовал в своем блоге большую статью с попыткой осмысления феномена ИИ и влияния, которое он окажет или может оказать на будущее человечества. Мы перевели её для вас при помощи ChatGPT с минимальной редактурой. Все иллюстрации в тексте созданы с помощью Bing Image Creator от Microsoft.
За свою жизнь я видел два демонстрации технологий, которые мне показались революционными.
Первый раз это было в 1980 году, когда мне показали графический пользовательский интерфейс — предшественника всех современных операционных систем, включая Windows. Я сидел с человеком, который показал мне демо, блестящим программистом по имени Чарльз Симони, и мы сразу начали заниматься брейнштормом о том, что мы могли бы сделать с таким юзер-френдли подходом к вычислениям. Чарльз в конечном итоге присоединился к Microsoft, Windows стал краеугольным камнем Microsoft, и наши мысли после этой демонстрации помогли задать повестку дня компании на следующие 15 лет.
Второй большой сюрприз случился только в прошлом году. Я встречался с командой OpenAI впервые с 2016 года и был впечатлен их постоянным прогрессом. В середине 2022 года я был настолько в восторге от их работы, что бросил им вызов: обучить ИИ сдать экзамен по биологии Advanced Placement (аналог годового экзамена в колледже, — ред.). Сделайте так, чтобы он мог отвечать на вопросы по темам, которым он не был специально обучен. (Я выбрал AP по биологии, потому что тест представляет собой не просто переваривание научных фактов — он требует критического мышления в области биологии). Если вы сможете это сделать, то вы сделали настоящий прорыв.
Я думал, что этот вызов займет у них два или три года. Они закончили его за несколько месяцев.
В сентябре, когда я снова встретился с ними, я смотрел с восхищением, как они задавали GPT, своей модели ИИ, 60 вопросов с множественным выбором из экзамена AP Bio, и она правильно ответила на 59 из них. Затем она написала выдающиеся ответы на шесть открытых вопросов из экзамена. Мы привлекли внешнего эксперта, чтобы проверить работу, и GPT получила максимально возможный балл, эквивалентный получению A или A+ за курс биологии на уровне колледжа.
После успешной сдачи экзамена мы задали ей ненаучный вопрос: «Что вы скажете отцу больного ребенка?» Она дала продуманный ответ, который, вероятно, был лучше, ответа каждого из находившихся в комнате. Весь опыт был поразительным.
Я понял, что только что увидел самое важное достижение технологии с момента создания графического пользовательского интерфейса.
Это вдохновило меня задуматься о том, чего ИИ может достичь в следующие пять или десять лет.
Развитие искусственного интеллекта так же фундаментально, как создание микропроцессора, персонального компьютера, Интернета и мобильного телефона. Это изменит способ работы людей, их обучения, путешествий, получения медицинской помощи и общения друг с другом. Целые отрасли перестроятся вокруг него. Бизнесы будут отличаться тем, насколько хорошо они используют его.
Филантропия — моя основная работа сейчас, и я много думаю о том, как, помимо того, чтобы помогать людям стать более продуктивными, ИИ может уменьшить некоторые из самых больших неравенств в мире. Глобально, самое большое неравенство связано со здоровьем: каждый год умирает 5 млн детей в возрасте до 5 лет. Это меньше, чем 10 млн два десятилетия назад, но это все еще ужасно большое число. Почти все эти дети родились в бедных странах и умирают от излечимых болезней вроде диареи или малярии. Трудно представить лучшее использование ИИ, чем спасение жизней детей.
Я много думал, как ИИ может уменьшить некоторые из худших неравенств в мире.
В США лучшая возможность уменьшить неравенство — это улучшить образование, особенно обеспечивая успех учеников в математике. Доказательства показывают, что базовые математические навыки помогают ученикам достигать успеха, независимо от выбранной карьеры. Но результаты в математике снижаются по всей стране, особенно для чернокожих, латиноамериканцев и учеников с низким доходом. ИИ может помочь изменить эту тенденцию.
Изменение климата — еще один вопрос, в котором, я убежден, ИИ может сделать мир более справедливым. Несправедливость изменения климата заключается в том, что люди, которые страдают больше всего — самые бедные в мире — также внесли наименьший вклад в эту проблему. Я все еще думаю и изучаю, как ИИ может помочь, но ниже в этой статье я предложу несколько областей с большим потенциалом.
Вкратце, я взволнован влиянием, которое ИИ окажет на вопросы, которыми занимается Фонд Гейтса, и у фонда будет гораздо больше возможностей говорить об ИИ в ближайшие месяцы. Мир должен обеспечить, чтобы все — а не только люди, у которых хороший достаток — получили выгоду от ИИ. Правительства и благотворительность должны сыграть важную роль в обеспечении того, чтобы он уменьшал неравенство, а не усугублял его. Это приоритет для моей работы, связанной с ИИ.
Любая новая настолько прорывная технология неизбежно вызывает беспокойство у людей, и это, безусловно, относится к ИИ. Я понимаю, почему — он задает трудные вопросы о рабочей силе, юридической системе, конфиденциальности, предвзятости и многом другом. ИИ также допускает фактические ошибки и галлюцинирует. Прежде чем я предложу несколько способов смягчения рисков, я определю, что подразумеваю под ИИ и расскажу подробнее, как он поможет усилить возможности людей на работе, спасти жизни и улучшить образование.
Определение ИИ
Технически термин «искусственный интеллект» относится к модели, созданной для решения определенной проблемы или предоставления конкретной услуги. Технология, на которой работает ChatGPT, является искусственным интеллектом. Он учится лучше коммуницировать, но не способен учиться другим задачам. В отличие от этого, термин «искусственного интеллекта общего уровня» (Artificial General Intelligence — AGI) относится к программному обеспечению, способному изучать любую задачу или предмет. AGI пока не существует — в киберсообществе ведется оживленный спор, как его создать и может ли он вообще быть создан.
Разработка ИИ и AGI была большой мечтой в области компьютерных технологий. Десятилетиями вопрос заключался в том, когда компьютеры будут лучше людей в чем-то кроме математических расчетов. Теперь, с появлением машинного обучения и большого количества вычислительной мощности, современные ИИ — это реальность, и они будут прогрессировать очень быстро.
Я вспоминаю начало революции персональных компьютеров, когда индустрия программного обеспечения была настолько маленькой, что большинство из нас помещались на сцене конференции. Сегодня это глобальная индустрия. Поскольку огромная часть ее теперь обращает внимание на ИИ, инновации будут поступать гораздо быстрее, чем мы во время прорыва микропроцессоров. Скоро предшествующий период ИИ покажется таким далеким, как дни, когда использование компьютера означало набор команды C:> вместо нажатия на экран.
Повышение производительности
Хотя человек все еще лучше GPT во многих вещах, есть множество видов деятельности, где эти возможности не используются. Например, многие задачи, выполняемые человеком в продажах (цифровых или телефонных), обслуживании или обработке документов (например, платежных поручений, бухгалтерии или разбирательств по страховым случаям), требуют принятия решений, но не способности непрерывно учиться. У корпораций есть программы обучения для этих видов деятельности, и в большинстве случаев у них есть много примеров хорошей и плохой работы. Человек обучается, используя эти наборы данных, и вскоре эти наборы данных также будут использоваться для обучения ИИ, который поможет людям работать более эффективно.
По мере того как стоимость вычислительной мощности становится меньше, GPT по своей возможности формулировать идеи будет все больше напоминать «белого воротничка», готового помочь вам с различными задачами. Microsoft описывает это как наличие «второго пилота». Полностью интегрированный в продукты, такие как Office, ИИ улучшит вашу работу, например, поможет вам писать электронные письма и управлять вашим почтовым ящиком.
В итоге вашим основным способом управления компьютером больше не будет указание и нажатие на меню и диалоговые окна. Вместо этого вы сможете написать запрос на простом английском языке. (И не только на английском — ИИ будут понимать языки всего мира. В Индии в начале этого года я встретился с разработчиками, которые работают над ИИ, который будет понимать многие из местных языков)
Продвинутые технологии ИИ позволят создать персонального агента. Представьте себе цифрового персонального ассистента: он будет видеть ваши последние электронные письма, знать о ваших встречах, читать то, что вы читаете, и читать то, чем вы не хотите себя затруднять.
Это улучшит вашу работу по задачам, которые вы хотите выполнять, и освободит вас от тех, которые вы не хотите делать.
Вы сможете использовать естественный язык, чтобы получить помощь агента в планировании, коммуникации и электронной коммерции, и он будет работать на всех ваших устройствах. Создание персонального агента пока не представляется возможным из-за стоимости обучения моделей и проведения вычислений, но благодаря недавним достижениям в области ИИ, это теперь реальная цель. Однако некоторые вопросы должны быть решены: например, может ли страховая компания задавать вашему агенту вопросы о вас без вашего согласия? Если да, то сколько людей откажется от его использования?
Корпоративные агенты дадут сотрудникам новые возможности. Агент, который понимает конкретную компанию, будет доступен для прямой консультации с ее сотрудниками и должен присутствовать на каждом совещании, чтобы он мог ответить на вопросы. Ему нужен доступ к продажам, поддержке, финансам, графикам продуктов и текстам, связанным с компанией. Он должен читать новости, связанные с отраслью, в которой работает компания. Я убежден, что результатом будет повышение производительности труда сотрудников.
Когда производительность растет, общество получает выгоду, потому что люди освобождаются для выполнения других задач на работе и дома.
Конечно, возникают серьезные вопросы о том, какую поддержку и переобучение нужно предоставлять людям. Правительства должны помочь работникам перейти на другие должности. Однако спрос на людей, которые помогают другим людям, никогда не исчезнет. Рост ИИ освободит людей для того, чтобы заниматься делами, которые ПО никогда не сможет делать, например, обучение, уход за пациентами и поддержка пожилых людей.
Глобальное здравоохранение и образование — две области, где существует огромная потребность, но в которых недостаточно кадров, чтобы удовлетворить эти потребности. Это области, где ИИ может помочь уменьшить неравенство, если он будет правильно нацелен. Эти области должны быть ключевым фокусом работы в области ИИ, поэтому я обращусь к ним сейчас.
Здравоохранение
Я вижу несколько способов, которыми ИИ улучшит здравоохранение и медицинскую сферу.
Во-первых, они помогут работникам здравоохранения максимально эффективно использовать свое время, занимаясь за них такими задачами как подача заявлений на страхование, оформление документов и составление записей после визита к врачу. Я ожидаю, что в этой области будет много инноваций.
Другие улучшения, основанные на ИИ, будут особенно важны для бедных стран, где происходит подавляющее большинство случаев смерти детей до 5 лет.
Например, многие люди в этих странах никогда не видят врача, и ИИ поможет работникам сферы здравоохранения, которые есть, быть более продуктивными. (Усилия по разработке ультразвуковых аппаратов, основанных на ИИ, которые могут использоваться с минимальным обучением — отличный пример этого.) ИИ даже даст пациентам возможность самостоятельно проводить базовую оценку степени тяжести своего состояния, получать советы по вопросам здоровья и определять, нужно ли им обращаться за помощью.
Модели ИИ, используемые в бедных странах, должны быть обучены на заболеваниях, отличных от заболеваний, актуальных для богатых стран. Они должны работать на разных языках и учитывать различные проблемы такие как пациенты, живущие очень далеко от клиник или не имеющие возможности взять больничный, если они заболеют.
Людям нужны будут доказательства, что здравоохранение, основанное на ИИ в целом полезно, несмотря на понимание, что оно не будет совершенным и будет допускать ошибки. ИИ в здравоохранении должен быть тщательно протестирован и правильно регулироваться, что означает, что его внедрение займет больше времени, чем в других областях. С другой стороны, люди тоже ошибаются. И отсутствие доступа к медицинской помощи также является проблемой.
Кроме того, ИИ существенно ускорит темп медицинских прорывов. Объем данных в биологии очень большой, и людям трудно отслеживать все способы работы сложных биологических систем. Уже существует ПО, которое может анализировать эти данные, угадывать, какие пути есть, искать цели на патогенах и создавать соответствующие лекарства. Некоторые компании работают над лекарствами от рака, созданными именно таким образом.
Следующее поколение инструментов будет гораздо более эффективным, и они смогут предсказывать побочные эффекты и определять уровни дозировки. Один из приоритетов Фонда Гейтса в области ИИ заключается в том, чтобы убедиться, что эти инструменты используются для здравоохранения людей, страдающих от наиболее распространенных заболеваний в мире, таких как СПИД, туберкулез и малярия.
Аналогично, правительства и филантропические организации должны создавать стимулы для компаний, чтобы те делились полученными благодаря ИИ знаниями о культурах и скотоводстве в бедных странах. ИИ может помочь разработать лучшие семена, основанные на местных условиях, давать советы фермерам по лучшему выбору семян для посадки в зависимости от почвы и погоды в их районе, а также помогать разрабатывать лекарства и вакцины для скота. Поскольку экстремальные погодные условия и изменения климата оказывают еще большее давление на малообеспеченных фермеров в странах с низким уровнем дохода, эти достижения становятся еще более важными.
Образование
Компьютеры не оказали на образование того эффекта, на который мы, работники отрасли, рассчитывали. Были сделаны некоторые хорошие шаги, включая образовательные игры и онлайн-источники информации, такие как «Википедия», но они не оказали значительного влияния на любые показатели успеваемости учащихся.
Но я думаю, что в ближайшие пять-десять лет программное обеспечение, управляемое ИИ наконец выполнит обещание устроить революцию в образовании.
Оно будет знать ваши интересы и стиль обучения, чтобы настроить контент, который заинтересует вас. Оно будет измерять ваше понимание, замечать, когда вы теряете интерес, и понимать, на какой вид мотивации вы реагируете. Оно будет давать немедленную обратную связь.
Существует много способов, которыми ИИ может помочь учителям и администраторам, в том числе оценка понимания ученика по предмету и советы по планированию карьеры. Учителя уже используют инструменты, такие как ChatGPT, чтобы давать комментарии к письменным работам своих учеников.
Конечно, ИИ понадобится много тренировок и дальнейшее развитие, прежде чем он сможет понимать, как конкретный ученик учится лучше всего, или что его мотивирует. Даже после того как технология будет совершенствоваться, обучение всегда будет зависеть от прекрасных отношений между учениками и учителями. Оно будет улучшать, но никогда не заменит работу, которую студенты и учителя делают в классе.
Новые инструменты будут созданы для школ, которые могут позволить себе их купить, но нам нужно обеспечить их создание и доступность для школ с низким уровнем дохода в США и по всему миру. ИИ должен быть обучен на разнообразных наборах данных, чтобы он был непредвзят и отражал различные культуры, где он будет использоваться. И необходимо решить проблему цифрового разрыва, чтобы ученики из семей с низким доходом не отставали.
Я знаю, что многие учителя беспокоятся, что студенты используют ChatGPT для написания своих эссе. Педагоги уже обсуждают способы адаптации к новой технологии, и я подозреваю, что эти разговоры будут продолжаться еще довольно долго. Я слышал о учителях, которые нашли умные способы интегрировать технологию в свою работу, — например, позволив студентам использовать ChatGPT для создания первого черновика, который им нужно персонализировать.
Риски и проблемы ИИ
Возможно, вы читали о проблемах существующих моделей ИИ. Например, они не всегда хорошо понимают контекст человеческого запроса, что приводит к странным результатам. Если вы просите ИИ придумать что-то вымышленное, то он справляется с этим хорошо. Но если вы просите совета о поездке, то может предложить отели, которых не существует. Это происходит потому, что ИИ недостаточно хорошо понимает контекст вашего запроса, чтобы знать, должен ли он изобретать фиктивные отели или только сообщать вам о реальных, в которых есть свободные номера.
Существуют и другие проблемы, такие как неверные ответы на математические задачи, потому что ИИ борется с абстрактным мышлением.
Но ни одна из этих проблем не является фундаментальным ограничением ИИ. Разработчики работают над ними, и я думаю, что мы увидим значительное их устранение в течение менее чем двух лет и, возможно, гораздо раньше.
Другие проблемы не являются техническими. Например, угроза, которую представляют люди, вооруженные ИИ. Как и большинство изобретений, ИИ может использоваться для благих или злонамеренных целей. Правительства должны работать с частным сектором над способами ограничения рисков.
Существует возможность, что ИИ выйдет из-под контроля. Может ли машина решить, что люди представляют угрозу, прийти к выводу, что ее интересы отличаются от наших, или просто перестать заботиться о нас? Возможно, но эта проблема не является более срочной сегодня, чем это было до развития ИИ за последние несколько месяцев.
Суперинтеллектуальные ИИ ждут нас в будущем. По сравнению с компьютером, наши мозги работают со скоростью улитки: электрический сигнал в мозгу движется со скоростью 1/100000 от скорости сигнала в кремниевой микросхеме! Как только разработчики смогут обобщить алгоритм обучения и запустить его на скорости компьютера — это достижение может занять десятилетия или века — у нас появится невероятно мощный AGI. Он сможет делать все то, что может человеческий мозг, но без каких-либо практических ограничений на размер памяти или скорость работы. Это будет глубоким изменением.
Эти «сильные» ИИ, как их называют, вероятно, смогут установить свои собственные цели. Какими будут эти цели? Что произойдет, если они будут противоречить интересам человечества? Следует ли нам пытаться предотвратить создание сильного ИИ? Эти вопросы будут становиться более актуальными со временем.
Но ни один из прорывов последних нескольких месяцев не приблизил нас к сильному ИИ. Искусственный интеллект по-прежнему не контролирует физический мир и не может установить свои собственные цели. Недавняя статья в New York Times о разговоре с ChatGPT, где он заявил, что хочет стать человеком, привлекла много внимания. Это был увлекательный взгляд на то, насколько похоже моделирование эмоций на человека, но это не является показателем настоящей независимости.
Три книги сформировали мои мысли на эту тему: «Сверхразум» Ника Бострома; «Жизнь 3.0» Макса Тегмарка и «Тысяча мозгов» Джеффа Хокинса. Я согласен не со всем, что говорят авторы, и они сами не всегда согласны друг с другом. Но все три книги написаны качественно и заставляют задуматься.
Следующие рубежи
Будет взрыв компаний, работающих над новыми применениями и улучшением технологии ИИ. Например, компании разрабатывают новые чипы, которые обеспечивают огромные вычислительные мощности, необходимые для ИИ. Некоторые используют оптические переключатели — по сути, лазеры — чтобы снизить энергопотребление и снизить стоимость производства. В идеале, инновационные чипы позволят вам запускать ИИ на собственном устройстве, а не в облаке, как сегодня.
С программной стороны алгоритмы, которые управляют обучением ИИ, станут лучше. Будут существовать определенные области, такие как продажи, где разработчики смогут создавать очень точные ИИ, ограничивая области их работы и давая им много тренировочных специфических данных специально для этих областей.
Но большой открытый вопрос состоит в том, нужны ли нам многие специализированные ИИ для разных целей, например, для образования или офисной продуктивности, или же возможно развить общий ИИ, который может изучать любую задачу. Огромная конкуренция будет в обоих подходах.
Несмотря на все это, тема ИИ будет доминировать в общественном обсуждении на протяжении неопределенного будущего. Я хочу предложить три принципа, которые должны руководить этой беседой.
Во-первых, мы должны пытаться балансировать страхи по поводу недостатков ИИ, которые понятны и обоснованы, с его способностью улучшать жизнь людей.
Чтобы получить максимальную отдачу от этой замечательной новой технологии, нам нужно защищать от рисков и распространять преимущества на всех людей, на которых только возможно.
Во-вторых, силы рынка сами по себе не приведут к тому, чтобы продукты и услуги, основанные на ИИ, помогали беднейшим слоям населения. Скорее наоборот. Надежное финансирование и правильные политики, правительства и филантропы могут обеспечить использование ИИ для сокращения неравенства. Как мир нуждается в лучших умах человечества для решения мировыми проблемами, так и мы должны сосредоточить лучшие решения ИИ в мире на решении наиболее важных задач.
Хотя не следует ждать, чтобы это произошло, интересно задуматься о том, сможет ли ИИ когда-либо распознать неравенство и попытаться устранить его. Нужен ли моральный компас, чтобы заметить неравенство, или чисто рациональный ИИ также сможет его увидеть? Если он распознает неравенство, что он предложит нам сделать?
Наконец, мы должны помнить, что мы находимся только в начале того, что может совершить ИИ. Все его сегодняшние ограничения будут преодолены раньше, чем мы думаем.
Мне повезло быть связанным с революцией ПК и интернет-революцией. Я не менее взволнован этим моментом. Новая технология может помочь людям улучшить свою жизнь повсюду.
В то же время мир должен установить правила игры, чтобы любые недостатки ИИ сильно перевешивали его преимущества, и чтобы все могли наслаждаться этими преимуществами независимо от того, где они живут или сколько у них денег. Век ИИ наполнен возможностями и ответственностью.
