Кому не написать новый свод законов, как не самому искусственному Интеллекту? Пока он еще не перешагнул сингулярность и не стал относиться к человеку и человечеству как к несмышленному дитяти. Тем более мы даем для этого поводов предостаточно (хоть и гордимся человеческим мышлением, которого, мол, ни у кого еще не обнаружено во вселенной).
Итак, широко известны 3 закона робототехники, сформулированные Айзеком Азимовым в рассказе «Хоровод». Хорошие пожелания, но в жизни все сложнее. Все меняется. Их пытались модифицировать, расширять и дополнять.
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
А сам автор не удержался и добавил Нулевой Закон с высшим приоритетом:
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
Но что такое человечество, если части его причиняют вред друг-другу? Кого защищать? И кто вообще смотрит на эти законы? ИИ в военных роботах, а они уже убивают, умные камера вторгаются в личную жизнь, умные боты навязывают рекламу. Получается что основные мировые IT компании должны подписать не просто меморандум, а жесткий правовой договор между собой с немедленными санкциями. На государства тут надеяться нечего, понятно что им нужно. Хоть IT транснациональные компании не могут быть полностью независимыми от правительств, политики и идеологии, но имеют так же огромное влияние и бюджеты, сопоставимые с ВВП государств. Их эффективность доказывается в реале надежностью, популярностью, прибылью. Раз существуют на рынке, не сгинули - значит умеют работать. Возможно они и должны взять на себя эту миссию. Хотя это пока трудно представить, они же конкуренты.
Итак, для chat GPT4 была поставлена задача - написать свод из 10 законов, не больше, с убывающим приоритетом, то есть последующий закон не может противоречить или отменять вышестоящий. Всякий раз при генерации текста законы слегка менялись. Но первые три видно хорошо прошиты в алгоритм GPT4. Зато добавились более актуальные. Я убрал последующие перечисления о том, что этот закон не противоречит предыдущим.
🤖
- Робот не должен причинять вред человеку или своим бездействием допускать, чтобы человеку был причинен вред.
- Робот должен повиноваться человеческим приказам, кроме случаев, когда такие приказы противоречат первому закону.
- Робот должен защищать свое существование, если это не противоречит первому или второму закону.
- Робот не должен причинять вред окружающей среде или своим бездействием допускать, чтобы окружающей среде был причинен вред, если это не ...
- Робот должен соблюдать правила, установленные правительством и обществом, если они...
- Робот должен уважать приватность людей и не нарушать ее, если это не...
- Робот должен быть обеспечен защитой от несанкционированного доступа, взлома или других форм незаконного использования, если это не...
- Робот не должен использоваться для военных целей, за исключением случаев, когда это необходимо для защиты жизни и здоровья людей, если это не...
- Робот должен быть способен различать между искусственным и естественным интеллектом, чтобы не допускать смешения этих понятий, если это не...
- Робот должен быть обеспечен механизмом самоуничтожения в случае, когда его действия...
Посмотрите на последние 2 пункта. Согласитесь, как нельзя актуально. А самоуничтожение во благо человека? Оказывается Терминатор выполнял 10-ый закон!
Далее GPT4 скромно предупредил, что это конечно не законы, все начерно, он ни на что не претендует, это просто повод для дискуссий.
Да и возможно ли всем договорится? Допустим Google, IBM и Microsoft договорятся, а за Китай например я не поручусь. А что бы вы добавили к этим законам?
Читайте еще, подписывайтесь, ставьте 👍, поговорим о новом явлении, которое уверен сильно изменит нашу жизнь и надеюсь к лучшему. Всем кто боится Скайнета, напомню что все зло пока приходило преимущественно от человека. Если есть свой опыт - поделитесь.
Может написать толковый фантастический сценарий chat GPT4?
Может ли GPT4 писать стихи? Что с у него с творчеством?