И одно письмо от Илона Маска и Стива Возняка о рисках потери контроля над нашей цивилизацией
«ИИ будет видеть ваши электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и освободит вас от задач, которые вы не хотите делать. Но необходимо решить некоторые вопросы: например, может ли страховая компания расспрашивать вашего ИИ-агента о вас без вашего разрешения?» — рассуждает сооснователь Microsoft Билл Гейтс в своем блоге о развитии искусственного интеллекта. О том, когда ИИ сможет устанавливать свои собственные цели, заменит ли белых воротничков и почему Илон Маск призывает приостановить обучение новых поколений нейросетей, — в материале «БИЗНЕС Online».
«Должны ли мы рисковать потерей контроля над нашей цивилизацией?»
«Есть старая шутка про технарей-агностиков, которые создавали искусственный сверхинтеллект, чтобы выяснить, есть ли Бог. Наконец они закончили работу и задали этот вопрос. Искусственный интеллект им ответил: „Теперь есть, идиоты!“».
Таким анекдотом в своем «Твиттере» основатель Tesla и SpaceX Илон Маск подкрепил подписанное им несколькими днями ранее открытое письмо с призывом к компаниям на полгода приостановить обучение нейросетей, превосходящих по мощностям языковую модель GPT-4. «Мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, опередить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в документе.
Это открытое письмо вызвало крайне широкий резонанс. Одни поддерживали авторов в их опасениях, другие, например один из первых деятелей Рунета, директор по маркетингу и визионер «Яндекса» Андрей Себрант, заподозрили Маска в отстаивании собственных бизнес-интересов. Он обращает внимание, что институт Future of Life Institute, на сайте которого и идет сбор подписей, финансируется Musk Foundation, а до этого — основателем рухнувшей криптобиржи FTX Сэмом Бэнкманом-Фридом (которого задержали и предъявили обвинение по 8 пунктам, включая сговор с целью мошенничества и отмывание денег). «На сцену выползает давний конфликт Маска с OpenAI. В свое время он хотел больше там рулить, но ему не дали, и он прекратил финансирование нонпрофта. OpenAI в поисках денег обратился к Microsoft, и вот тут-то начались первые движения в сторону коммерциализации и большие обиды Маска. А Маск, который уже не раз заявлял, что его человекоподобный робот станет более крупным бизнесом, чем беспилотники, остался без контроля над ключевой для такого робота технологией», — рассуждает Себрант в своем телеграм-канале.
Но, кроме Маска, письмо подписали еще как минимум 2 180 человек. В их числе сооснователь Apple Стив Возняк, автор международного бестселлера «Sapiens: Краткая история человечества» Юваль Ной Харари, сооснователи Skype, Pinterest, десятки директоров компаний, сотни профессоров самых известных университетов мира… А аккаунт Маска стал самым популярным в «Твиттере», обогнав страничку экс-президента США Барака Обамы.
«Эра искусственного интеллекта началась»
По иронии судьбы за несколько дней до тревожного письма с не менее громким, но на порядок более оптимистичным заявлением выступил создатель Microsoft Билл Гейтс. Он написал развернутый блог «Эра искусственного интеллекта началась», в котором сравнивает ИИ по революционности с появлением интернета и мобильных телефонов. В этой мысли он укрепился в тот день, когда чат-бот ChatGPT от OpenAl при нем смог сдать на высший балл экзамен по биологии (справившись с тестом на 59 баллов из 60 и безупречно ответив на развернутые вопросы). «Тогда мы задали ему ненаучный вопрос: „Что вы скажете отцу с больным ребенком?“ Он написал вдумчивый ответ, который, вероятно, был лучше, чем тот, который дало бы большинство из присутствующих. Это было ошеломляюще. Я понял, что только что увидел самое важное технологическое достижение со времен графического интерфейса», — написал он. И попробовал спрогнозировать, чего сможет достичь ИИ в ближайшие 5–10 лет. Если совсем тезисно, он предсказывает появление искусственного интеллекта в следующих ролях:
- Белый воротничок на подхвате, или «второй пилот». «Способность GPT выражать идеи будет все больше напоминать работника – белого воротничка, который может помочь с различными задачами. Microsoft описывает это как наличие второго пилота. Полностью интегрированный в такие продукты, как Office, искусственный интеллект улучшит вашу работу, например, помогая писать электронные письма и управлять почтовым ящиком», — пишет Гейтс.
- Новый способ управлять компьютером. По мнению Гейтса, со временем, вместо того чтобы наводить указатель мыши и щелкать на меню и диалоговые окна, можно будет просто написать запрос. И не только на английском: «ИИ будут понимать языки всего мира».
- Персональный агент с (не)ограниченным доступом. «ИИ будет видеть ваши последние электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и читать то, что вы не хотите читать. Это улучшит вашу работу над задачами, которые вы хотите сделать, и освободит вас от тех, которые вы не хотите делать», — рисует светлое будущее Гейтс. И тут же оговаривается: «Необходимо решить некоторые вопросы: например, может ли страховая компания расспрашивать вашего агента о вас без вашего разрешения? Если да, то сколько людей решит не использовать его?»
- Корпоративный агент. По мнению Гейтса, цифровые агенты должны быть и в компаниях. Причем они должны иметь доступ к продажам, поддержке, финансам, графикам продуктов и остальной корпоративной информации. Тогда они расширят возможности сотрудников: смогут их проконсультировать и присутствовать на каждом совещании, чтобы отвечать на вопросы. «ИИ должен читать новости, связанные с отраслью, в которой работает компания. Я считаю, что в результате сотрудники станут более продуктивными», — пишет основатель Microsoft.
В богатых странах – в бедных странах
- Помощник врача в богатых странах и мини-медик в бедных странах. По прогнозам Гейтса, ИИ освободит медработников от бумажной работы (включая записи приема). А в бедных странах, где «многие люди никогда не были на приеме у врача», модели ИИ «необходимо будет обучать другим заболеваниям, не таким, как в богатых странах», чтобы они могли советовать беднякам, как справляться с проблемами со здоровьем, и решать, нужно ли им обращаться за лечением. «Людям нужно будет увидеть доказательства того, что ИИ в целом полезен для здоровья, даже если он будет совершать ошибки. ИИ должен быть очень тщательно протестирован и отрегулирован. Но люди тоже ошибаются. И отсутствие доступа к медицинскому обслуживанию также является проблемой», — заключает он, предсказывая, что ИИ радикально увеличит скорость медицинских открытий, а новые инструменты благодаря нему будут более эффективными.
- Советник фермерам. «Правительства и благотворительные организации должны стимулировать компании делиться информацией, полученной с помощью искусственного интеллекта, о сельскохозяйственных культурах или домашнем скоте, выращиваемых людьми в бедных странах», — рассуждает Гейтс. Фермерам ИИ посоветует, какие семена лучше сажать с учетом почвы и локации, а также поможет изобрести лекарства и вакцины для скота.
- Цифровой учитель. Гейтс ожидает, что ИИ устроит революцию в обучении и преподавании. «ИИ будет знать ваши интересы и ваш стиль обучения, поэтому он может предлагать контент, который будет вас удерживать. Он будет измерять ваше понимание, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы реагируете. Это даст немедленную обратную связь», — описывает он школы будущего, где нейросети не только помогут выставить оценки, но и дадут ученикам карьерные советы. Один нюанс: «новые инструменты будут созданы для школ, которые могут позволить себе их купить». «Но мы должны убедиться, что они будут также доступны для школ с низким доходом в США и во всем мире», — уточняет он.
А что же люди? «Развитие ИИ освободит людей для занятий, которые программное обеспечение никогда не сделает, — например для обучения, ухода за пациентами и поддержки пожилых людей», — рисует воодушевляющие карьерные перспективы человечества Гейтс.
«Ограничения ИИ исчезнут прежде, чем мы об этом узнаем»
Гейтс признает, что существующие модели ИИ имеют массу недостатков и не всегда хорошо понимают запросы. Они хорошо выдумывают, но хуже работают с конкретными данными, например, «когда вы спрашиваете совета о поездке, вам могут предложить несуществующие отели». Но все эти недочеты, по его мнению, будут исправлены менее чем за два года (а может быть, и гораздо быстрее).
Другие проблемы серьезнее. «Например, есть угроза, исходящая от людей, вооруженных ИИ. Как и большинство изобретений, искусственный интеллект можно использовать как в благих целях, так и во зло. Правительствам необходимо работать с частниками над способами ограничения рисков», — призывает он.
Тогда есть вероятность, что ИИ выйдет из-под контроля. «Может ли машина решить, что люди представляют угрозу, прийти к выводу, что ее интересы отличаются от наших, или просто перестать заботиться о нас? Возможно, но сегодня эта проблема не более актуальна, чем несколько месяцев назад», — утешил Гейтс.
Зато в будущем нас ждет сверхразумный искусственный интеллект. «По сравнению с компьютером наш мозг работает со скоростью улитки: электрический сигнал в мозгу движется со скоростью 1/100 000 скорости сигнала в кремниевом чипе! Как только разработчики смогут обобщить алгоритм обучения и запустить его со скоростью компьютера — достижение, на которое может уйти десятилетие или столетие, — у нас появится невероятно мощный ОИИ. Он сможет делать все, что может человеческий мозг, но без каких-либо практических ограничений на размер его памяти или скорость, с которой он работает», — говорит основатель Microsoft. И вот этот сильный искусственный интеллект, вероятно, сможет устанавливать свои собственные цели. Но какими они будут и что произойдет, если они вступят в противоречие с интересами человечества?
Напрямую Гейтс на эти вопросы не отвечает, но заканчивает блог интригующе: «Мы должны помнить, что мы только в начале того, что может сделать ИИ. Какие бы ограничения у него ни были сегодня, они исчезнут, прежде чем мы это узнаем».