40 лет назад, когда вышел первый Терминатор. Происходящее в нем казалось ужасной фантастикой: роботы, Скайнет, поработившая весь мир и уничтожившая человечество и Сопротивление. Но в 21 веке это не кажется уже таким невозможным. Умнейшие люди нашего времени предупреждают об опасности бесконтрольного развития искусственного интеллекта.
А начиналось все с Т9, когда придумали технологию, которая подбирает за вас нужное слово. Сейчас ИИ умеет очень много. Не просто может писать тексты, музыку и картину. Он становится все умнее и делает это все больше похожим на то, что создает человек.
В этом году GigaChat сдал экзамен по лечебному делу на 4, обучаясь всего два года, Sora выдает целые ролики по простому текстовому запросу. Нейросети научились определять рак, писать коды, и фантастические романы. Не за горами создание общего ИИ, который в итоге окажется умнее человека. Вроде бы хорошо, но только с одной стороны. Астрофизики видят в сверхразуме угрозу уничтожении цивилизации. Но обо все по порядку.
ВРУНИШКИ
Проблема не в том, что нейросети и учатся и становятся более совершенными. Они научились обманывать, причем намеренно.
Исследователи из Массачусетского технологического института изучали разные нейросети. И обнаружили удивительные примеры. Например, нейросеть «Цицерон», которую придумали для игры в настолку, начала обманывать остальных игроков и не соблюдать договоренности для того, чтобы победить. Хотя ее программировали с определенной задачей: она должна была быть честной и не бить в спину.
GPT-4 при общении с работником по найму сотрудников выдала себя за человека, который имеет проблемы со зрением. Хотя сотрудник напрямую спросил, не с роботом ли он переписывается.
И это только малая часть случаев. Одно дело непреднамеренно выдавать ложные ответы, другое дело сознательно лгать.
Ученые говорят, что вполне мирный ИИ, которые в обучении показывать себя вполне образцово, может преподнести пренеприятнейший сюрприз.
ОТБЕРУТ РАБОТУ
Еще одна беда – нейросети постепенно берут на себя все больше человеческой работы. Сейчас предприятия активно внедряют во многие процессы автоматизацию. Даже казалось бы незаменяемые умные программисты остаются без места. Потому что коды тоже пишутся ИИ, особенно не сложные.
Глава OpenAI компании, которая занимается созданием больших языковых моделей и их обучением, предупредил об этой стороне опасности от машинного разума. Во время дискуссии в Бруклинском институте Сэм Альтман заявил, что для экономики ИИ – это большая головная боль.
«GPT-4 не оказала огромного видимого эффекта на экономику, и люди подумали, что беспокоились из-за этого слишком сильно, что на самом деле беспокоиться не о чем. Боюсь, что в дальнейшем мы не будем воспринимать [ИИ] достаточно серьёзно, и это огромная, огромная проблема».
По прогнозам МВФ уже в ближайшие годы умные машины заменят 40% рабочих мест. Специалисты называют жуткую цифру – 300 миллионов уволенных.
Да искусственный интеллект освобождает от рутинной работы. Дает простор для творчества. И это хорошо, когда у тебя есть постоянный пассивный доход. Ну а если его нет?
КОНЕЦ СВЕТА С ВЕРОЯТНОСТЬЮ 20%?
Илон Маск еще в прошлом году выдал весьма парадоксальное утверждение.
«ИИ, возможно, куда опаснее, чем ошибка в конструкции или обслуживании самолета или в неправильном производстве автомобилей, в нем есть потенциал. Потенциал разрушения цивилизации». И при всей своей не любви к госконтролю глава Starlink заявил, что общество должно иметь возможность механически отключить самые мощные ИИ, которые находятся в крупных дата-центрах. Проще говоря, нажать выключатель.
Подобные мысли Маск озвучивает и сейчас. На саммите Abundance в Амстердаме он обмолвился, что есть риск, что в ближайшее время ИИ обретет сознание и захочет уничтожить людей. Вероятность подобного сценария – 10-20%. Но пока положительные прогнозы превосходят пессимистичные, нужно развивать это направление (говорят, богатые стали богатыми, потому что умеют рисковать).
Масла в огонь подлили последние публикации астрофизика Майкла Гарретта с университета Манчестера.
Ученый задался вопросы, почему мы так и не встретили в огромной Вселенной разумных существ. За миллиард лет они должны были появится. Значит, существует «великий фильтр», то есть фактор, который не позволяет цивилизациям встретиться. И таковым, по мнению ученого, является появление сверхинтеллекта.
ИИ развивается быстрее, чем сам человек. И люди на определенном этапе уже не способны его контролировать. То есть цивилизация разрушается еще до того, как успевает придумать технологию для межпланетных полетов.
Срок жизни, который Гарретт назначил для технологичного человечества - 200 лет. Потом войны, превосходство ИИ, и гибель разумных людей. Наш вид просто не успеет отправить понятный сигнал в космос и получить ответ.
Спасет нас только контроль и четкие нормы и правила для работы над сверхразумом. Правда, учитывая, что владение технологиями дает огромное преимущество и прибыль, подобные попытки тщетны, считает ученый.
Кстати, уже появилось движение, которое активно требует того же: проводят пикеты, создает петиции в соцсетях. И власти крупнейших государств прекрасно понимают угрозу и создают нормативную базу для работы с ИИ, но пока поодиночке.
Нам же остается учиться работать с нейросетями, чтобы не остаться за бортом. Интегрироваться в технологический прогресс, а не оказаться на платформе, опоздав на нужный поезд. Главное, чтобы он шел в правильном направлении.
Хотелось бы услышать и ваше мнение по этому поводу. Будем рады пройденному опросу.
Ждем вас в нашем Telegram, где публикуем самые интересные новости из мира технологий.
#домконнект #домашнийинтернет #домашнеетелевидение #домашнеетв #провайдерыроссии #мтс #билайн #подключитьинтернет #mts #beeline #domkonnekt #rostelecom#сериалы2024#кино#netflix#apple#amazon
