1. Робот-убийца из прошлого:
Первая официально зарегистрированная смерть от «руки» робота случилась аж в 1979 году. Жертвой стал Роберт Уильямс, который работал на фабрике Ford. Мужчина обслуживал роботизированный склад, где своими железными «руками» роботы собирали с многоэтажных стеллажей уложенные автодетали, а Уильямс следил, чтобы все происходило без сбоев.
Источники описывают разные сценарии произошедших событий. Согласно одной версии, в базе, которую использовал робот, произошла ошибка, и машина не «видела» нужную запчасть, хотя та была на месте. По другой версии, робот работал слишком медленно, чем раздражал оператора. Третья версия объединяет две предыдущие. Как бы то ни было, мужчина сам забрался на стеллаж, чтобы достать деталь.
В этот момент робот внезапно и тихо вернулся к своим обязанностям и попытался взять нужное, однако на его пути оказалась голова Роберта. Оператор умер мгновенно. Его тело коллеги нашли спустя 30 минут.
2. Военный дрон сбежал от оператора и полетел на Вашингтон:
Случай произошел более десяти лет назад, когда американские военные отправили на очередное задание беспилотный вертолет Northrop Grumman MQ-8 Fire Scout. Взлет прошел нормально, но затем машина решила сбросить с себя оковы и сбежать от человека. Однако вместо того чтобы начать кружить на месте и совершить посадку, как это задумано программой, Fire Scout отправился в запретную для полетов зону вокруг Вашингтона.
К счастью, взбесившийся агрегат взлетал пустым, без боевых ракет. Тем не менее за полчаса он успел проделать путь почти в 40 км в сторону Вашингтона, прежде чем военные вернули контроль над машиной. От греха подальше военные остановили использование всех MQ-8B.
А вот в 2007 году в ЮАР во время стрельб военный робот на полигоне все же убил 9 солдат и ранил 14. Тогда предположительно баг в программном обеспечении зенитки Oerlikon GDF-005, предназначенной для уничтожения низколетящих скоростных целей, вертолетов и БПЛА в автоматическом режиме, открыл беспорядочный огонь вокруг себя. Зенитное орудие успело разрядить два магазина на 250 зарядов каждый.
3. Взбесившийся робот-шахматист:
В 2022 году совсем не военный робот сломал палец юному шахматисту. Игра проходила между человеком и машиной: мальчик поторопился и схватился за фигуру до того, как робот закончил свой ход, что не понравилось роботу: он схватил его за палец и сломал.
4. ИИ от Facebook нашли общий язык:
В 2017 году возникла курьезная ситуация: пара копий искусственного интеллекта, разрабатываемого Facebook, нашла общий язык. Что в этом такого? Дело в том, что системы начали общаться между собой так, что человек не понимал «темы» беседы. В сети можно найти логи общения ботов:
Bob: i can i i everything else . . . . . ..
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . .
На первый взгляд кажется, что боты застряли в своей беседе и никуда не движутся. Однако позже сообщалось, что на самом деле смысл во всем этом был и в итоге Боб с Алисой пришли к какому-то консенсусу. Дело в том, что перед ИИ была поставлена задача «пообщаться», но не было правил, как и на каком языке. Вероятно, искусственные интеллекты взяли за основу английский, однако затем начали создавать на его базе свою «робофеню». Здесь вопрос состоит в том, к чему такое «взаимопонимание» может привести в неконтролируемых условиях.
5. Робот против феминисток:
В 2016-м шуму наделал робот Tay корпорации Microsoft. Вскоре после запуска бот, обитавший в Twitter, заявил, что «люди — суперкрутые». Однако спустя сутки его отношение к «кожаным мешкам» стало меняться на резко негативное, больше всех доставалось феминисткам. Тогда бота подкрутили, и он вновь возлюбил сторонников полового равноправия.
Проблемы объяснили влиянием общества: ИИ обучается на том, что видит и слышит. Какие данные — такое и поведение: влияя на источники информации и их содержание, можно свести с ума даже искусственный интеллект. Кстати, с Tay так и произошло через неделю после запуска: вначале он признался в употреблении веществ, а затем начал нести несусветную чушь. После этого бота отправили в изоляцию, где он находится до сих пор.
6. Китайский робот, оскорбляющий коммунизм:
Из-под контроля выходили даже официальные китайские ИИ и чат-боты на их базе. Как-то Baby Q от Tencent QQ назвал коммунизм коррумпированным и бесполезным строем. Само собой, бота оперативно нормализовали.