На этой неделе много разговоров о том, что Маск подписал письмо, призывающее остановить разработку всех систем ИИ, более продвинутых, чем GPT-4. Хотя некоторые могут списать это на эксцентричность Маска, многие важные фигуры в ИТ-индустрии, включая Стива Возняка, Юваля Ноя Харари, многочисленных сотрудников ИИ-стартапов и многих профессоров, включая тех, кто стоял у истоков современных нейронных сетей, таких как Йошуа Бенгио, также подписали это письмо.
В связи с этим возникают два вопроса:
Во-первых, почему умные люди становятся неолуддитами и пытаются остановить прогресс?
Во-вторых, действительно ли можно остановить развитие ИИ?
В самом письме приводится несколько причин. Что если машины заполнят наш мир пропагандой? Что если роботы займут все рабочие места? И, наконец, уверены ли мы, что не потеряем контроль над нашей цивилизацией?
Последний пункт может показаться радикальным, но именно по этой причине документ подписали многие люди (хотя и не все - есть и те, кого больше волнуют краткосрочные последствия).
Существует множество аргументов в пользу того, почему ИИ может уничтожить человечество, но давайте остановимся на одном, самом известном и элегантном. Он состоит из двух частей:
(1) Предположим, что нам удалось создать ИИ, который по своим возможностям равен человеческому мозгу. В отличие от человека, он не нуждается в отдыхе, не забывает то, чему научился, имеет доступ к огромным вычислительным ресурсам - и самое главное, он может самосовершенствоваться. Он может писать код, а значит, может создать ИИ+ - интеллект, хоть немного превосходящий человеческий, который, в свою очередь, создаст еще более производительную модель. Получается, что создание "человеческого" ИИ неизбежно приведет к появлению "сверхчеловеческого" ИИ (лучший анализ этого аргумента - в статье Чалмерса).
(2) Если сверхчеловеческий интеллект появится, нет никакой гарантии, что его цели будут соответствовать человеческим - это знаменитая проблема выравнивания ИИ. В упрощенном виде - "аргумент скрепки". Предположим, человечество создает сверхчеловеческий разум, в мозг которого мы встраиваем главную цель - производить скрепки. Со временем этот ИИ поймет, что для максимизации количества скрепок желательно превратить всю поверхность Земли в фабрики по их производству, а в идеале вся материя во Вселенной должна быть превращена в скрепки - включая, конечно, и довольно бесполезных людей. Какую бы цель мы ни закладывали в искусственный интеллект, мы не понимаем, как она будет интерпретирована.
Если вы впервые сталкиваетесь с этими аргументами, они могут показаться нереальными, похожими на фантастику, которая обычно находит свое место только в голливудских боевиках. Не все, кто подписал письмо, поддерживают эти аргументы. Однако, так как тысячи умных людей серьезно спорят на эту тему, стоит задуматься об этом.
Теперь к вопросу о том, возможно ли остановить развитие искусственного интеллекта. Скорее всего, это невозможно. Во-первых, не все подписали письмо. Например, сотрудники OpenAI его не подписали. Многие исследователи также называют его «бредом». Кроме того, большие деньги в игре: приложение ChatGPT стало самым быстрорастущим приложением за всю историю, набрав 100 миллионов пользователей за два месяца - почти в пять раз быстрее, чем TikTok. Любая компания, которая добровольно остановит свое развитие, потеряет миллиарды долларов. Именно поэтому Google спешно разработал свой аналог ChatGPT, который даже назвали "позором".
Во-вторых, государства вряд ли смогут остановить разработку искусственного интеллекта. Развитие ИИ уже давно стало новой гонкой вооружений между Китаем и США. Если любая из сторон решит остановить своих исследователей, то она обречет себя на поражение в необъявленной войне. Лучше всего, чтобы могущественный искусственный интеллект был разработан именно нами, а не нашими тоталитарными противниками - это достаточно весомый аргумент. Верить в координацию между Китаем и США практически невозможно. Поэтому американцы инвестируют рекордные 50 миллиардов долларов в развитие полупроводников, без которых невозможно построить искусственный интеллект, а китайцы запускают одну ИИ-стратегию за другой.