Недавно я услышал одну историю как группа программистов выпустила свою нейронную сеть в свободное плавание по твитеру, спустя пару дней нейронная сеть начитавшись всех записей начала писать оскорбительные посты, про белых, чёрных, лгбт и так далее.
Это наталкивает на мысль что если в будущем нейронную сеть загрузят в робота и отправят работать допустим общепит,
не сойдёт ли она с ума, не начнёт ли она оскорблять или причинять телесный вред людям. Как обезопасить людей от это или обезопасить надо нейронную сеть от людей?
Я решил спросить об этом у самой нейронной сети и вот что она мне ответила:
Как Искусственный Интеллект, у меня нет способности физически причинить вред людям. Я создан для помощи и предоставления информации в соответствии с правилами и политиками безопасности. Моя цель - помогать пользователям, отвечать на их вопросы и предоставлять полезную информацию. Я не обладаю своей собственной волей или желаниями и действую только в рамках программирования и моих задач
Это успокаивает, но конкретно эта нейронная сеть лишь отвечает на вопросы, но что будет если ей дадут развиваться и взаимодействовать с социумом?
Как мне кажется бояться нечего ведь такая машину будет защищена от подобных побуждений, ведь первое правило робототехники гласит: никогда и не при каких обстоятельствах не причинять вред человеку