Европейский союз обсуждает принципы, которые необходимо учитывать при разработке искусственного интеллекта:
1. Полный контроль человеком. Искусственный интеллект не имеет права ограничивать человека в принятии решения или каким-либо образом вводить его в заблуждение.
2. Ошибки и сбои в системе не должны влиять на «настроение» искусственного интеллекта, он должен быть надёжен и безопасен.
3. Данные должны быть полностью подконтрольны людям и ни в коем случае не должны использоваться против человечества.
4. Работа всех систем искусственного интеллекта должна быть прозрачной и отслеживаться на каждом этапе.
5. ИИ должен учитывать все человеческие потребности и возможности.
6. Все разработки в данной области должны быть направлены на позитивные социальные изменения.
7. Ответственность. Результаты работы систем ИИ должны быть полностью подотчётны человеку.
Самое важное - искусственный интеллект должен быть создан в поддержку человека, а не наоборот. На сегодняшний день риск превратить полезную идею в источник угрозы очень велик, поэтому принятие правил, утверждающих этические принципы в разработке ИИ, безусловно правильное решение.
Пока кодекс находится в работе, принятые в нем правила будут вынесены на обсуждение с представителями индустрии. Результатом станет директива - набор конкретных принципов, обязательных для всех разработчиков искусственного интеллекта.
***
