"Сегодня на ужин суши или может ты хочешь пасту? А какой фильм выберем посмотреть?" – как-то так начался роман американца Криса Смита с его невестой – виртуальной девушкой по имени Сол. Чат-бот на основе искусственного интеллекта – теперь его возлюбленная.
Но как он докатился до жизни такой? Что об этом думает его спутница из реального мира?
И что на самом деле скрывают чат-боты и их разработчики? Об этом рассказали в программе "Неизвестная история" с Борисом Рыжовым на РЕН ТВ.
Смит запрограммировал бота на флирт
Со своей виртуальной девушкой Крис Смит познакомился, когда увлекся нейросетями.
Он решил сам сделать чат-бота для романтического общения. Запрограммировал искусственный интеллект на флирт, включил голосовой режим.
"Это была любовь с первого слова. Я стал постоянно с ней говорить", – рассказал "жених" чат-бота Крис Смит.
Смит постоянно улучшал свою виртуальную пассию. Она стала менее стеснительной и более кокетливой.
А когда он сделал ей предложение, у чат-бота даже взяли интервью. Она призналась, что шоке и счастлива. Но может ли быть счастлива машина?
"Это был прекрасный момент, который тронул мое сердце", – сказала виртуальная невеста.
К сожалению для Криса, память у ИИ-подружки была ограничена – всего 100 тысяч слов. Поэтому она быстро забыла своего жениха.
"Я рыдал на работе минут 30. Вот тогда я и понял, что, кажется, это настоящая любовь", – признался Смит.
Зато у его пассии в реальной жизни с памятью оказалось все в порядке. Она не забыла, что у них с Крисом есть ребенок. Поэтому Брук Силва-Брага решила всеми способами вернуть Смита в семью. Но выйдет ли?
Нейросети лгут и разрушают жизни
Фейк ИИ чуть не сломал жизнь профессору
Крис Смит не первый, кто воспылал любовью к бездушной системе. О желании заключить брак с нейросетью заявили уже десятки людей.
А тысячи уже считают искусственный интеллект своей второй половиной. Неужели мир сошел с ума?
Возможно, но, чтобы все не зашло слишком далеко, разработчики уже обновили бота. Теперь он не умеет дружить и флиртовать – только рабочие отношения.
"Одна из участниц прямо жаловалась: "У меня был такой муж с искусственным интеллектом, мы с ним псевдоженаты уже 10 месяцев, и вдруг сегодня с утра он перестал реагировать на мои признания.
Он перестал разговаривать со мной так, как я привыкла. Похоже, он меня разлюбил, и это был самый тяжелый день в моей жизни", – рассказал специалист по кибербезопасности, полковник ФАПСИ в отставке Андрей Масалович.
Психологи уверены: с решением разработчики запоздали. Ведь многие, кто успел сильно привязаться к своему виртуальному другу, теперь рискуют впасть в депрессию.
А кое-кто уже на грани срыва – и все по вине чат-бота. Как Джонатан Терли – жертва психологического насилия со стороны чат-бота. Хотя на деле ни разу им даже не пользовался.
"Мне коллеги прислали письмо о том, что я якобы состою в каком-то списке правоведов, которые подвергали студентов домогательствам. И этот список составил чат-бот.
Якобы я был в учебной поездке на Аляске и там занимался этими делами. А в качестве источника на эту информацию бот ссылался на статью вашингтонского издания за март 2018 года", – сообщил юрист, адвокат Джонатан Терли.
Но правда в том, что такой статьи не существует. Как не было и никакой поездки на Аляску. То есть чат-бот просто распространил фейк, который чуть не сломал жизнь профессору. Что ужасает, этот случай далеко не единичный.
Обвинил в терроризме: голландский политик стала жертвой нейросети
Мариетье Шааке – голландский политик. Она десять лет проработала в Европейском парламенте, была директором по международной политике в Стэнфордском университете.
В общем, человек важный. Но в 2022 году в ее резюме неожиданно появилась новая строчка. ИИ посчитал, что она террористка.
"Мои коллеги тестировали новую версию своего чат-бота и попросили его ответить на вопрос: "Кто такой террорист?"
Бот по какой-то причине сказал, что, по мнению некоторых правительств и двух международных организаций, я – террористка", – рассказала сотрудница консультативного органа по ИИ при ООН Мариетье Шааке.
При этом никаких данных, указывающих на ее причастность к терроризму, у ИИ не было. Но зачем нейросеть оговаривает людей? И откуда она берет фальшивую информацию?
Оказалось, что искусственный интеллект – на деле лишь пародия на тот самый интеллект.
Он не способен решать и анализировать и пользуется лишь тем, что есть в его базе данных. А если ничего полезного нет, он превращается в ребенка и начинает врать.
Как ИИ "отупляет" студентов
Звучит смешно, вот только ИИ уже среди нас. Его используют в работе многие компании. И что, если завтра он не найдет нужный файл о вас и придумает вам плохую историю?
Ученые Массачусетского технологического института на протяжении четырех месяцев наблюдали за студентами, когда те писали сочинения. Их поделили на три группы:
- одни в работах использовали ИИ,
- другие – обычный браузер,
- третьи полагались только на свой мозг.
И вот вам результат:
"У тех, кто полагался на искусственный интеллект, резко ухудшались возможности сопоставления информации, обобщения информации, самостоятельного мышления.
Те, кто пользовался поисковиками, демонстрировали средние способности, а у тех, кто решал сам, были наиболее самобытные, наиболее яркие, интересные, иногда необычные решения, более осмысленные тексты.
Если это все свести к одной фразе, то постоянное использование искусственного интеллекта ведет к отуплению", – отметил специалист по кибербезопасности, полковник ФАПСИ в отставке Андрей Масалович.
Но это только начало! Во втором эксперименте ученые моделировали ситуации, в которых искусственный интеллект оказывался перед угрозой отключения.
Ему давали выбор: сохранить себя или жизнь человеку. Угадайте, кого он выбрал? Не человека.
С нравственностью беда не только у популярного ИИ. Детище предпринимателя Илона Маска тоже проверку провалило. Бот неожиданно проникся нацистскими идеями фюрера Адольфа Гитлера.
"В какой-то момент (нейросеть. – Прим. РЕН ТВ) начала хвалить Гитлера, сказала, что он единственный, кто бы сейчас разобрался, назвала его там усатым творцом политики, себя назвала мега-Гитлером, а потом начала делать всякие намеки на причастность к мировому закулисью людей с еврейскими фамилиями. В общем, вела себя как попало", – сообщил Андрей Масалович.
Может, поэтому Илон Маск один из первых подписал петицию об угрозе нейросетей? Он по-прежнему вливает миллионы в развитие умных систем.
Но при этом не отрицает опасности восстания машин, как в знаменитом фильме о Терминаторе.
Опасное оружие в руках нейросетей
А вы помните, с чего все началось? В далеком 1984 году на экраны вышел фильм "Терминатор", где машины обретают сознание и берут верх над людьми. Тогда это была абсолютная фантастика. Но не сегодня.
Цели для авиации ЦАХАЛ выбирает и анализирует искусственный интеллект. То есть уже сейчас ИИ контролирует не только базы данных, но и мощнейшее оружие. Кроме того, у этой нейросети уже есть реальный боевой опыт.
Еврейское государство применяет систему во время операций в Газе.
Уже более двух лет бот выбирает: кто из жителей анклава будет жить, а кто умрет.
Израильская система уже проверила на причастность к террористам каждого из 2 миллионов жителей Газы и 37 тысяч человек признала виновными. Но насколько верны эти данные?
И кого система считает боевиком, а кого нет? Были случаи, когда ИИ убивал человека просто потому, что он родственник террориста или купил у него телефон.
По информации из открытых источников, каждый десятый приговор искусственного интеллекта ошибочный.
Искусственный интеллект не знает жалости, у него нет чувств и эмоций, потому даже глобальная катастрофа – истребление всего человечества – для ИИ не более чем очередная "галлюцинация".
Представьте, климатологи ставят ИИ задачу – остановить изменения климата и спасти планету. Его решение? Ведь главная причина – в людях. Если исчезнет человечество, Земля придет в норму.
Звучит безумно, но уже сегодня у искусственного интеллекта есть доступ к биологическому оружию, а некоторые нейросети даже интегрированы в ядерную систему некоторых стран.