Найти тему
Исследуем chat GPT4

ИИ предложил новые законы робототехники взамен устаревших

Кому не написать новый свод законов, как не самому искусственному Интеллекту? Пока он еще не перешагнул сингулярность и не стал относиться к человеку и человечеству как к несмышленному дитяти. Тем более мы даем для этого поводов предостаточно (хоть и гордимся человеческим мышлением, которого, мол, ни у кого еще не обнаружено во вселенной).

Итак, широко известны 3 закона робототехники, сформулированные Айзеком Азимовым в рассказе «Хоровод». Хорошие пожелания, но в жизни все сложнее. Все меняется. Их пытались модифицировать, расширять и дополнять.

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

А сам автор не удержался и добавил Нулевой Закон с высшим приоритетом:

0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.

Но что такое человечество, если части его причиняют вред друг-другу? Кого защищать? И кто вообще смотрит на эти законы? ИИ в военных роботах, а они уже убивают, умные камера вторгаются в личную жизнь, умные боты навязывают рекламу. Получается что основные мировые IT компании должны подписать не просто меморандум, а жесткий правовой договор между собой с немедленными санкциями. На государства тут надеяться нечего, понятно что им нужно. Хоть IT транснациональные компании не могут быть полностью независимыми от правительств, политики и идеологии, но имеют так же огромное влияние и бюджеты, сопоставимые с ВВП государств. Их эффективность доказывается в реале надежностью, популярностью, прибылью. Раз существуют на рынке, не сгинули - значит умеют работать. Возможно они и должны взять на себя эту миссию. Хотя это пока трудно представить, они же конкуренты.

Итак, для chat GPT4 была поставлена задача - написать свод из 10 законов, не больше, с убывающим приоритетом, то есть последующий закон не может противоречить или отменять вышестоящий. Всякий раз при генерации текста законы слегка менялись. Но первые три видно хорошо прошиты в алгоритм GPT4. Зато добавились более актуальные. Я убрал последующие перечисления о том, что этот закон не противоречит предыдущим.

🤖

  1. Робот не должен причинять вред человеку или своим бездействием допускать, чтобы человеку был причинен вред.
  2. Робот должен повиноваться человеческим приказам, кроме случаев, когда такие приказы противоречат первому закону.
  3. Робот должен защищать свое существование, если это не противоречит первому или второму закону.
  4. Робот не должен причинять вред окружающей среде или своим бездействием допускать, чтобы окружающей среде был причинен вред, если это не ...
  5. Робот должен соблюдать правила, установленные правительством и обществом, если они...
  6. Робот должен уважать приватность людей и не нарушать ее, если это не...
  7. Робот должен быть обеспечен защитой от несанкционированного доступа, взлома или других форм незаконного использования, если это не...
  8. Робот не должен использоваться для военных целей, за исключением случаев, когда это необходимо для защиты жизни и здоровья людей, если это не...
  9. Робот должен быть способен различать между искусственным и естественным интеллектом, чтобы не допускать смешения этих понятий, если это не...
  10. Робот должен быть обеспечен механизмом самоуничтожения в случае, когда его действия...

Посмотрите на последние 2 пункта. Согласитесь, как нельзя актуально. А самоуничтожение во благо человека? Оказывается Терминатор выполнял 10-ый закон!

-2

Далее GPT4 скромно предупредил, что это конечно не законы, все начерно, он ни на что не претендует, это просто повод для дискуссий.

Да и возможно ли всем договорится? Допустим Google, IBM и Microsoft договорятся, а за Китай например я не поручусь. А что бы вы добавили к этим законам?

Читайте еще, подписывайтесь, ставьте 👍, поговорим о новом явлении, которое уверен сильно изменит нашу жизнь и надеюсь к лучшему. Всем кто боится Скайнета, напомню что все зло пока приходило преимущественно от человека. Если есть свой опыт - поделитесь.

Может написать толковый фантастический сценарий chat GPT4?

Может ли GPT4 писать стихи? Что с у него с творчеством?

Заимствует ли ИИ черты своего создателя программиста?

Может ли GPT4 создать новое справедливое законодательство?