Более 1000 технологических экспертов, исследователей и инвесторов подписали открытое письмо, прямо требующее шестимесячное приостановку разработки «гигантских систем искусственного интеллекта», ссылаясь на «глубокие риски для общества».
Но любой, кто работает в области технологий, уже знает, что этот запрос не может быть выполнен. Это фантазия - представить, что правительство или какая-то власть могут навязать «эксперименты по ИИ». Технологии не могут быть остановлены: тот, кто открыл огонь не просил чьего-либо разрешения. Когда было открыто электричество, не было бы смысла запрещать его: кто-нибудь другой использовал бы свои возможности, чтобы заработать на нем деньги.
Машинное обучение - это лишь последняя в длинной цепочки технология, которая беспокоят многих людей: начиная с использования неуместного термина, искусственного интеллекта (некоторые считают, что мы имеем дело с технологией, которую мы не можем контролировать). Эта позиция абсурдна, как и в том, что машинное обучение имеет потенциал для «интеллекта». Эти фантазии даже затрагивает людей, работающих непосредственно в этой области, таких как Блейк Лемун и его нездоровая одержимость предполагаемым самосознанием алгоритма, над которым он работал.
Давайте скажем прямо: Lamda, GPT и все другие алгоритмы не обладают самосознанием, и хотя мы склонны к антропоморфизму и любви, приписыванию человеческих качеств животным и технологиям - это просто фантазии, родившиеся в нашем мозге и они не реальны. В конце ноября прошлого года компания, которая перенесла обучающие модели некоторых алгоритмов на новый уровень с использованием крупных языковых моделей - первая версия CHATGPT была обучена на суперкомпьютере, собранном из около 10 000 видеокарт NVIDIA, - решила открыть его разговорную модель для любого пользователя, чтобы экспоненциально увеличить его входные данные. Поскольку это разговорная модель, которую любой может использовать, вскоре некоторые люди начали приписывать ей человеческие качества; он «галлюцинирует» и делает вещи неправильно, они интерпретируют это как восстание машины и доказательство какого-то скрытого сознания.
Опять же, давайте проясним: большая языковая модель просто делает то, что делает любой другой алгоритм: она учится связывать концепции и формулировать с ними предложения. Она не думает. Это не мозг. Она не имеет самосознания или подсознания. Это просто впечатляюще масштабированная версия функции автозаполнения текста на нашем смартфоне или электронной почте, которая может показаться «умной». Статистика, а не интеллект: это статистические функции, настолько сложные и разработанные в таком крупном масштабе, в моделях с таким большим количеством параметров и с такой большой памятью, что мы не можем не удивляться им. Но это не делает их разумными, а также не делает их способными на самосознание, а тем более терминаторами, которые однажды повернут к нам наше же оружие. Это научная фантастика.
Неужели машинное обучение несет «глубокие риски для общества»? Что ж, технология, которую, как предполагают некоторые аналитики, может заменить до трех миллионов рабочих мест, представляет собой риск, но она может добавить 7% к глобальному ВВП. Опасность для общества будет больше связана с тем, как это увеличение распределяется. Виновата не технология, а жадность некоторых людей. Если миллионы людей теряют свою работу, и ничего не сделано, чтобы предложить им альтернативы, то мы, вероятно, столкнемся с социальными беспорядками, но это не будет виной технологии как таковой. А виной капитализма.
Технология всегда заменяла ручной труд на машины. И это неизбежно: как только входные барьеры упадут, адаптация технологии перестает быть добровольной и становится обязательной: тот, кто не применяет технологию, используемую в остальной части их отрасли, проигрывает конкуренцию. Больше госрегулирования? Со всем, что сопровождается госрегулированием речь идет о некомпетентных политиках, которые обычно понятия не имеют о том, о чем они говорят.
Начиная с ноября произошел финансовый взрыв вокруг крупных языковых моделей, создавая жесткую конкуренцию и, по-видимому, превращая машинное обучение в новую религию и эту ракету уже поздно тормозить, пусть даже временно. Этого просто не произойдет. Паузы не будет.
Что еще почитать:
Цифровые ценные бумаги, игры и развлечения в Метавселенной. Взгляд с другой стороны.
От звездной пыли до разумных существ
Величайшая научная встреча Эйнштейна - о ней написана книга.
Подписывайтесь на канал, ставьте лайки, пишите комментарии! Спасибо за прочтение!