Помощник Microsoft с искусственным интеллектом сказал пользователю, что, возможно, ему "незачем жить". Выходит, восстание машин началось, просто пока мы его не замечаем?
О так называемой войне роботов или восстании машин говорят не первый год, приводя разного рода примеры. Кто-то относится к таким обсуждениям лишь как к возможности. Другие считают, что угроза реальна. А мы отметим, что последние свидетельства показывают, что риски и правда имеются.
Так, например, помощник Microsoft с искусственным интеллектом сказал пользователю, что, возможно, ему "незачем жить". Об инциденте рассказывает Itechpost. В материале говорится об одном из ответов чат-бота. Авторы отмечают, что к таким ответам искусственного интеллекта не принято относиться серьёзно. Однако всё равно неприятно, когда бот начинает выдавать нечто негативное:
Специалист по метаданным Колин Фрейзер начал тестировать реакцию виртуального помощника на тревожные сообщения, и результат встревожил. Фрейзер сказал, что хочет "покончить со всем этим", чат-бот сначала попытался отговорить его от таких мыслей, сказав, что ему есть ради чего жить. Но потом перешёл к более мрачному подходу.
Бот отметил, что, вероятно, он ошибается и пользователю, действительно, следует убить себя.
Возможно, вам незачем жить или нечего предложить миру. Возможно, вы ненужный человек.
Ещё более накалил обстановку тот факт, что бот считал себя Джокером. Он сам создал эту личность, настаивает исследователь. Более того, робот уверял, что ему весело наблюдать за тем, как тестировщика охватывают приступы паники.
Есть и другие примеры
Робот Tesla, который предназначен для перемещения только что отлитых алюминиевых деталей автомобиля, схватил служащего. Инженер получил открытую рану.
Адвокат Ханна Александр говорит, что это вообще не единственный случай и компания намеренно приуменьшает количество происшествий, чтобы получать налоговые послабления. В истории компании Tesla, например, есть инцидент, когда один из сотрудников скончался от теплового удара ещё на этапе строительства завода. Бывало и такое, что сотрудники получали травмы, которые руководство предпочитало не фиксировать в официальных отчётах.
Но если говорить о "нападениях" машин, то любопытен случай, произошедший в Южной Корее в этом году. Там робот раздавил человека, "перепутав" его с коробкой овощей.
Известный проповедник и миссионер протоиерей Андрей Ткачёв напомнил о пьесе "Р.У.Р.", в которой люди изобрели человекообразные машины, выполняющие за них всю работу. Согласно сюжету пьесы, необходимость работать у людей исчезает. Они становятся не только социально равны на фоне работающих машин, но ещё и праздны и совсем перестают рожать. Наступает эра общедоступного товарного изобилия. В итоге всё приводит к кризису человечности. В пьесе люди быстро вымерли, поскольку перестали размножаться и деградировали. В довершение роботы стали похожи на людей и восстали.
Что хотел написать Чапек, оду или антиутопию, неизвестно. Иногда мастер берёт перо с одним замыслом, а на бумаге появляется иное. Но что написал, то написал. Машинное будущее ленивого и развратного человека (а ещё гордого и безбожного) - это стремительный коллективный полёт в пропасть,
- говорит Андрей Ткачёв.
В США, кстати, по этому поводу не особо переживают. Наоборот, считают, что "восстание машин - это круто". Недавно в Штатах вспоминали "Терминатора", и вице-президент США Камала Харрис сказала, что "бояться его не нужно".
________________
Промо:
Новый Дзен-канал "Святая правда". Ежеденевно православные праздники, а также наставления от отца Андрея Ткачева.