Все большее число ученых беспокоится о том, принимаются ли адекватные меры для защиты от наших роботизированных и цифровых творений.
Одной из основных проблем является автоматизация . В конце концов, военным беспилотникам будет разрешено принимать собственные решения о том, следует ли атаковать цель? Будем ли мы позволять машинам копировать себя без человеческого руководства? Будем ли мы разрешать беспилотные автомобили?
Возникает вопрос о том, что роботы занимают роли, которые, вероятно, не должны. Уже существуют прототипы медицинских роботов, предназначенные для того, чтобыо прашивать пациентов об их симптомах и предоставлять советы, имитируя утешительные эмоции, то есть играть роль, традиционно занимаемую врачом. В одном из своих зданий у Microsoft есть видеоадминистратор-регистратор. Новый класс «сервисных роботов» может подключаться к электрическим розеткам и выполнять другие сложные задачи - не говоря уже о давно созданном Roomba, автоматизированном, вакуумном роботе.
Мы также можем поставить слишком много критических задач и обязанностей в «руки» нечеловеческих помощников или постепенно окажемся в положении зависимости от машин. На конференции компьютерных ученых, робототехников и других исследователей эксперты были озаобчены тем, как преступники могут использовать технологии следующего поколения, такие как искусственный интеллект, для взлома информации или выдачи себя за реальных людей. Суть этой конференции и другие дискуссии, похоже, состоят в том, что очень важно начать решение этих вопросов на ранней стадии, чтобы определить отраслевые стандарты сейчас, ведь даже сейчас неясно, какие технологические достижения принесет нам будущее.