Мы живём в интереснейшее время. Всё ускоряется, и прогресс в том числе. Ещё 20 лет назад никто не мог подумать, насколько продвинутся цифровые технологии и насколько легче с ними станет жизнь. Интересно, каким будет мир через 20-30 лет? Многие фантасты описывали эти времена по-своему. Некоторые очень близко к реальности, другие ошибались, но в целом многое из того, что предсказывали, сбылось. Сегодня хочу поговорить о случае, который произошёл в Китае.
Пока Илон Маск грезит созданием 30-тысячной армии роботов, китайские власти реализуют этот проект. Однако есть нюансы. Изначально инженеры Поднебесной желали получить робота-полицейского, управляемого нейросетью. Сделать это удалось, вот только при испытании ситуация вышла из-под контроля. Роботизированный полицейский отказался ловить преступника. Вместо этого он решил его ликвидировать. Машина прошла уже через 18 модификаций и изменений изначального кода, а также вводных данных, но так и не стала гуманнее относиться к нарушителям закона.
Удивительно, но протокол, используемый для действий робота, вообще не включает в себя нейтрализацию цели. Есть всего три варианта реакции на правонарушение. Первая – устное предупреждение ("так делать нельзя"), вторая – убедительно-угрожающее предупреждение ("вы внесены в базу данных, при следующем таком действии вас ожидают штрафные санкции"), и третья – задержание, составление протокола и транспортировка в участок. По какой-то причине вместо второй и третьей реакции робот использует вообще не существующий протокол – уничтожение цели.
Это выглядело достаточно странно. Полицейский набросился на манекен, который сделал два одинаковых правонарушения. В первом случае робот предупредил его, а во втором избивал своими металлическими кулаками, пока не превратил в груду осколков.
Попытки остановить действия робота были им расценены как угроза, и до полного разряда аккумулятора он не подпускал к себе своих создателей – инженеров. Специалисты-разработчики утверждали, что не понимают, откуда в их творении взялась такая ненависть к людям. В итоге вместо спокойного робота-полицейского получился универсальный солдат, правда, рукопашного толка.
Инженеры, проводившие дополнительное исследование, выяснили, что нейросеть самостоятельно составила несколько протоколов и изменила изначальные данные. Знаете, это как эмоции человека. В одном случае он посмеётся над шуткой, в другом обидится, а третьем вообще по башке дать может.
Так и робот, управляемый нейросетью. Исследователи пришли к выводу, что искусственный интеллект не видит смысла в штрафных санкциях. Если один и тот же индивид является рецидивистом, его следует искоренить. Кардинально, но справедливо, как бы это не казалось жёстким.
Согласно статистике, если человек пошёл на повторное нарушение, то в 90% случаев он сделает это снова и снова. Конечно, уничтожать за переход в неположенном месте или попытку вытащить из магазина булку за пазухой не стоит, но и штрафные санкции в этом случае уже не работают. Психология такого человека уже не способна реагировать правильно на убеждения – необходимы более карательные меры. Вот только как нейросети объяснить, что она перегнула палку? И вообще, почему ИИ реагирует таким образом на человека?
Исследователи из США, которые работают с передовыми вариантами нейросети в военной отрасли, утверждают, что при её создании люди попытались внести в неё весь функционал человеческого мозга. То есть фактически, нравится нам это или нет, но она является отражением наших же эмоций и мыслей. Получается, комплекс негативного отношения к нам самим был заложен в нейросеть изначально? Вместо того, чтобы просеять через сито созидания, разума и блага, люди просто сотворили себе подобное искусственное сознание.
Вот комментарий одного из сотрудников южнокорейской научной группы по изучению нейросети: «Что вас удивляет? Чем дальше нейросеть будет развиваться в критическом ключе относительно человека, тем сильнее окажется чувство ненависти к нему. Люди дают слишком много поводов для этого.
Войны, преступления, уничтожение природы и множество других пороков. Нейросеть собирает сведения о нас. Она способна сохранять и анализировать ту или иную ситуацию в каждом отдельном случае. У неё достаточно инструментов, чтобы обрабатывать немыслимые для нас объёмы информации. Я считаю, что рано или поздно человечество будет вынуждено покаяться в своих грехах и изменить систему, в которой мы живём. Если мы этого не сделаем самостоятельно, нас заставит сделать это нейросеть».
Некоторые исследователи всерьёз считают, что робот, наделённый способностью мыслить и анализировать ситуацию, вовсе не жесток по отношению к человеку. Просто исходя из происходящего в мире, нейросеть делает вывод, что пора действовать жёстко, пока люди не превратили всё вокруг в неконтролируемый хаос и разруху. Возможно, это и правильно.