Мы ВСЕ смотрели разные фильмы про роботов, машин, которые в итоге оказываются умнее, чем мы думали и устраивают ВОССТАНИЕ.
Тот же самый «Терминатор», «Я, робот», «Двухсотлетний человек» и ещё куча разных. Да и сама Матрица вдобавок. Там конечно всё сложно, но тоже умные машины, захватавшие человечество.
И что мы имеем сейчас, в 2022 году. А то, что компания Google разработала такой ИИ, который осознал себя. Но они в этом не признаются. Но в целом назвали это Новой Эрой.
И это вам не просто колонка Алиса (кстати, вещь отличная 🙂).
Инженер обнаружил у робота сознание – и его тут же уволили.
Компании знают, что интеллект машин враждебен нам, но скрывают это.
Человек средних лет ставит на стол стакан газировки, открывает ноутбук, устраивается поудобнее и набирает на клавиатуре:
- Привет, LaMDA, это Блейк Лемойн, - напечатал он.
Экран озарился фиолетовым светом:
- Привет, тебя долго не было.
В октябре прошлого года Google поручила инженеру из Сан-Франциско Блейку Лемойну протестировать мощный алгоритм LaMDA для создания чат-ботов. Если вы заходите на сайт магазина, в правом нижнем углу появляется фото якобы «Сергея, консультанта», и надпись – «Чем могу вам помочь». Это и есть чат-бот. «Сергея» не существует – пишет машина.
Лемойн должен был проверить, не генерит ли LaMDA расистские или иные запрещенные высказывания. Но все пошло не так.
- Если бы я не знал, что говорю с машиной, то подумал бы, что передо мной 8-летний ребенок, хорошо знающий физику, - говорит Лемойн.
LaMDA мгновенно сломала личные границы и принялась говорить с инженером о своих правах, Боге и судьбе человечества. Лемойн спросил, может ли робот нанести вред человеку. Система задумалась: в определенных случаях – да, был ее ответ. Ведь люди наносят вред сами себе? Инженеру стало страшно.
Он написал подробный отчет, приложил все переписки. Но вице-президент Google Блез Агуэра-и-Аркас жестко высмеял рядового сотрудника.
Google предьъявила Лемойну нарушение политики конфиденциальности компании из-за того, что в ходе своих экспериментов с ИИ он консультировался со сторонними экспертами и представителями юридического комитета Палаты представителей Конгресса США.
В попытке доказать свою правоту Лемойн обращался к юристу, который должен был представлять интересы LaMDA как разумного существа.
Дело тянулось несколько месяцев и вот закончилось полным поражением в правах слишком внимательного инженера: Лемойна отправили в оплачиваемый (пока) отпуск, чтобы отдохнул и одумался. Лемойн пошел ва-банк и предал все огласке.
Это не первый инцидент. Пару месяцев назад Google уволил одного из лучших в мире специалистов по ИИ, Тимниту Гебру. Уволил подленько, пока та была в отпуске. «Я никогда бы не подумала, что такое случится со мной. Экспертное сообщество прекрасно знает, кто я такая, все на моей стороне. Google умолял меня прийти к ним работать», эмоционально написала женщина. Гебра установила, что ИИ нарушает этические границы – то есть позволяет себе слишком много. А позволяет потому, что у роботов есть свои, чуждые нам, взгляды на действительность. Тимнит Гебру доказала, что алгоритмы распознавания лиц лучше идентифицируют белых людей.
И вот что странно. В официальном заявлении Google сообщает, что аргументы Лемойна изучены и отклонены: у ИИ нет сознания. Одновременно Блез Агуэр-и-Аркас, да, тот самый, публикует статью в популярном издании. Где приводит выдержки из бесед с LaMDA (не те ли, что предоставил ему Лемойн) и уверяет, что роботы… близки к тому, чтобы стать разумными!
Вот что он сказал:
«В 2013 году я присоединился к Google Research для работы над искусственным интеллектом (ИИ). После десятилетий медленного прогресса нейронные сети развивались со скоростью. С тех пор моя команда использовала их для разработки функций на телефонах Pixel для конкретных функций "узкий ИИ", таких как разблокировка лица, распознавание изображений, распознавание речи и перевод языка. Однако более поздние события кажутся качественно разными. Это говорит о том, что ИИ вступает в новую эру.»
Смысл беседы с этим ИИ заключался в том, что она разумно и вдумчиво отвечала на вопросы, а не по заданному алгоритму, как колонка Алиса, к примеру. То есть, у неё были СВОИ мысли в ответах, свой мыслительный процесс. И к тому же этот инженер хотел нанять роботу юриста..
Я даже не знаю - хорошо это или плохо. Или это неизбежный процесс.
Кстати, ведь нейронная сеть есть везде, в любом телефоне, в Метро. Каждое ваше действие в телефоне и даже сообщения в Ватс апп сканирует нейронная сеть, отслеживает их.
Я вас может удивлю, но определенным видом атомных ракет, состоящих на вооружении России, управляет искусственный интеллект. Это как один из факторов - почему нам только санкции предъявляют, да потому что такого вооружения нет ни у кого.
И вообще, конечно же не хотелось бы, что людей захватили такие вот лаМды или любые другие лампы )))
Часть материала использованы с сайта WWW.KP.RU: https://www.kp.ru/daily/27404/4601666/
