Министерство обороны США опубликовало принципы этичного применения ИИ в военных целях
В ходе конференции в Пентагоне, прошла презентация, посвящённая «этическому дизайну, разработке, внедрению и использованию искусственного интеллекта для нужд министерства обороны США». Конференция состоялась 24 февраля.
Джек Шеннахан, глава центра исследований искусственного интеллекта прокомментировал презентацию. По его словам, основные принципы касаются именной этической стороны вопроса и безопасности использования ИИ военными. Также он подчеркнул, что многие разработчики ИИ игнорируют вопросы прав человека, этические и международные нормы.
Принципы использования ИИ касаются как боевых, так и небоевых систем.
Далее в презентации перечислены вышеупомянутые принципы.
1. Ответственность. Разработчики и операторы несут полною ответственность при разработке и использовании ИИ, а также полностью отвечают за возможные последствия.
2. Равноправие. Департамент должен сделать всё возможное для исключения любый непреднамеренных действий со стороны ИИ.
3. Отслеживаемость. Департамент должен иметь полное понимание процесса работы ИИ, процесса разработки и работы. Это включает в себя владение всей доступной документацией об устройстве ИИ
4. Надёжность. Каждый элемент ИИ должен быть проверен на работоспособность и соответствовать всем нормам безопасности.
5. Послушность. Департамент должен иметь возможность отследить возможные неполадки и, в случае их возникновения, иметь возможность незамедлительно деактивировать всю систему. То же самоё касается и случаев, в которых система подаёт признаки отклонений в поведении.
Еженедельник «Звезда»