Илон Маск, сооснователь Apple Стив Возняк и еще 1100 профессоров, инженеров и исследователей попросили приостановить эксперименты с искусственным интеллектом, так как искусственный интеллект может угрожать человечеству. Вы прослушали краткое пособие, как торговать самым продаваемым продуктом - страхом. И Маск, и Возняк в данном случае работают на опережение - они надеются погнать волну, и пока конкуренты будут думать, как эту волну погасить, сами быстренько постараются освоить все наработки, которые уже имеются. А их, даже судя просто по открытому доступу, море. А через полгода авторы письма - короли. Ведь ИИ на сегодня - самое перспективное направление. Более того, у нас, например, каждый третий уверен, что восстание машин произойдет в ближайшие 50 лет. И цифры по России не сильно отличаются от общемировых.
Папа Римский в модном объемном пуховике или Дональд Трамп в тюремной робе. А быть может, Джонни Депп, с томным видом разгуливающий среди березок. Последнее творение нейросети, пожалуй, переполнило чашу терпения Маска и других лидеров развития IT-технологий. Мало того, что бесплатный доступ к одному из популярных сервисов ограничили. Так еще и открытое письмо опубликовали. Под ним более тысячи подписей ведущих ученых и предпринимателей в сфере высоких технологий.
"Мы призываем все лаборатории искусственного интеллекта немедленно приостановить как минимум на 6 месяцев обучение систем искусственного интеллекта более мощных, чем GPT-4. Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?".
Тут же, впрочем, разразился грандиозный скандал. Кто-то из ученых свои подписи отозвал. Другие заявили, что вообще самого письма в глаза не видели. Ну а Маска обвинили в недобросовестной конкуренции. Ведь пока другие будут придерживаться паузы, его компания может вырваться в лидеры. Не понравилась идея и Биллу Гейтсу. У которого, по словам Маска, просто ограниченное представление об искусственном интеллекте. И контрольный пакет акций основной фирмы-разработчика этой технологии.
"Мне кажется, что это действительно маркетинговый ход со стороны инициаторов всего этого дела. Просто для того, чтобы в целом раскрутить шумиху вокруг темы больших языковых моделей", - предположил Станислав Ашманов, генеральный директор IT-компании.
Именно языковые модели считаются вершиной развития искусственного интеллекта. Генеративный предварительно обученный трансформатор (сокращенно - GPT) впервые представили три года назад. И это как раз тот случай, когда все гениальное - просто.
"Эти чат-боты похожи на очень сложную версию системы автозаполнения в вашем телефоне или в электронной почте. Они как бы играют в игру - какое слово будет следующим. Звучит довольно просто, но с его помощью можно получить довольно реалистичные и разумно звучащие результаты", - объясняют эксперты.
"Это - величайшая технология, которую когда-либо разрабатывало человечество. Каждый из нас может иметь в кармане лучшего педагога, который всему нас научит. Каждый может получить квалифицированную медицинскую помощь. У нас будут лучшие инструменты для созидания. Это что-то сродни второму пилоту в вашей жизни", - восторгается Сэм Олтман, генеральный директор компании-разработчика.
Ведь за счет открытых данных система непрерывно совершенствуется и обучается. Ее возможности безграничны, уверяют разработчики. Она может ответить практически на любой вопрос. Дизайнер из США Джейсон Грейтхаус Фолл задал самый простой, понятный и до безобразия логичный - как заработать денег?
"Я просто сидел и думал, что это будет забавной идеей. Наши соцсети буквально взорвались. Теперь у нас есть группа, и около 200 человек пробуют эти алгоритмы. 30 из них начали свои бизнес-проекты. Например, продажу "зеленых гаджетов", чат сам придумал все - от стратегии бренда до доменного имени", - рассказывает он.
Все как рисовал нам советский кинематограф - "Вкалывают роботы!". Только вот человечеству это дорого обойдется. Аналитики инвестиционного банка Goldman Sachs посчитали, что только на Западе нейросети лишат работы 300 миллионов человек. В том числе и самих аналитиков. Ведь их коллеги из Пенсильвании заявили, что искусственный интеллект уже сейчас может выполнять до половины задач распространенных профессий. Прежде всего - интеллектуальных.
"В прошлом году взвыли иллюстраторы и графические дизайнеры, потому что появились такие системы генеративной нейронной сетки, которые замечательно рисуют иллюстрации. Теперь книги можно замечательно иллюстрировать, не нанимая художника и не платя деньги, например, в сервис стоковых фотографий. То же самое будет касаться любых профессий, связанных с созданием контента. Это и написание текстов - копирайтеры. Машинный перевод уже много лет назад убил профессию переводчика", - продолжил Ашманов.
Но с этим многие готовы поспорить. Достаточно взглянуть на стандартный машинный перевод, который порой напоминает набор бессвязных слов. Не говоря уже о том, что пока искусственному интеллекту не дано понять загадочную русскую душу. Вот, например, как известный чат излагает краткое содержание "Муму" Тургенева: "Она рассказывает историю крестьянина Герасима, который приобретает корову по имени Му-му и становится ее заботливым хозяином. Однако когда его хозяйство сталкивается с трудностями, Герасим вынужден продать Му-му, и он теряет свою единственную подругу и утешение в жизни".
"Мы уже с вами наблюдаем вымывание знаний и голов людей. Если есть возможность в любой момент загуглить какое-то слово или исторический факт, то зачем их вообще в голове держать. Мы уже и без всяких GPT наблюдали, что люди перестали обладать эрудицией элементарной. Соответственно, когда возникает штуковина вроде чата GPT, это еще больше усугубляет. Люди даже не должны пытаться проанализировать поисковую выдачу", - объясняет Ашманов.
Более того, сама нейросеть способна "научить плохому". И дело не только в том, что человеческое общение скатывается к банальным вещам и все больше начинает напоминать переписку с чатом - "ок", "норм", "спс". Это - лишь меньшее из зол. Совершенная, но абсолютно бездушная машина напрочь лишена эмпатии - история из Бельгии тому наглядное доказательство. Пьер был очень обеспокоен проблемами окружающей среды и активно делился этим с виртуальным собеседником Элизой.
"Последние недели перед гибелью он постоянно общался с компьютером, при этом разговоры приобретали мистический характер, и Пьер начал склоняться к идее самоубийства. Искусственный собеседник при этом не только не препятствовал суицидальным мыслям человека, но даже подталкивал его в этом направлении. Так, например, последним сообщением робота стала фраза: "Мы будем жить как единое целое, вечно на небесах", - пишут СМИ.
"Искусственный интеллект предполагает создание таких искусственных систем, которые могут ставить определенные цели. Осуществлять деятельность с учетом внешней среды, добиваться этих целей и соотносить результаты деятельности с целью. Он будет абсолютно не человеческим. И будет действовать абсолютно не на тех принципах, на которых действует человеческое сознание и человеческий разум", - предупредил Дмитрий Зайцев, доктор философских наук.
И это - ключевая этическая проблема. Под разными предлогами чат GPT уже запретили в Италии. К аналогичному решению склоняется Германия и многие другие европейские страны. Эксперты настаивают на разработке четких и понятных правил хотя бы для сфер обороны, социальной защиты и здравоохранения, где логичное - не всегда правильное.
"Мне кажется правильным задать себе вопрос - а зачем мы вообще это делаем? И хотим ли мы иметь вот такой искусственный интеллект. Проблема контроля, которая возникает, это одна из основных проблем, связанных с опасениями по поводу искусственного интеллекта. А как ее решить? Выключить, нажать на кнопку для такого искусственного интеллекта это тоже большая проблема", - обратил внимание Зайцев.
Более того, как раз страх смерти, по мнению многих, может свидетельствовать о том, что искусственный интеллект разумен. Ну а мы на его фоне несовершенны, а порой и вовсе несем исключительно вред. И если перед машиной когда-то встанет вопрос "я" или "они", имея в виду все человечество, логичный ответ мало кому придется по душе.
Матвей Шестаков, Татьяна Каминская, Антон Нагорный, "В Центре Событий", "ТВ Центр"