Более 800 известных личностей, включая пионеров в области искусственного интеллекта и соучредителя компании Apple Стива Возняка, выразили свою обеспокоенность в открытом обращении, призывая запретить разработку сверхразумного искусственного интеллекта. К этому призыву присоединились политики, знаменитости и представители королевских семей. Они опасаются возможных рисков, связанных с неконтролируемым развитием этой технологии.
Обращение, опубликованное Институтом будущего жизни, признает потенциал ИИ для улучшения качества жизни и здоровья людей. Однако авторы выразили серьезную тревогу по поводу стремления технологических компаний создать сверхразумный ИИ в ближайшие годы. По данным журнала Naked Science, такой ИИ может превзойти человеческие когнитивные способности, что вызывает значительные опасения.
В обращении предлагается ввести временный запрет на разработку сверхразумного ИИ, пока не будет достигнут научный консенсус относительно безопасных и эффективных методов контроля таких систем. Также подчеркивается важность широкой общественной поддержки перед внедрением подобных технологий.
Основные риски, вызывающие беспокойство, включают угрозу массовой безработицы из-за автоматизации, потенциальную потерю гражданских прав и личной свободы, а также угрозы национальной безопасности и экзистенциальные риски для человечества.
Среди подписавших обращение — такие выдающиеся специалисты в области ИИ, как Джеффри Хинтон и Йошуа Бенджио. Поддержку инициативе также выразили основатель Virgin Group Ричард Брэнсон, известный музыкант Will.i.am, певица Граймс, а также принц Гарри и Меган Маркл, представители британской королевской семьи. Обращение получило поддержку более 45 тысяч человек, что свидетельствует о растущей обеспокоенности в обществе относительно возможных последствий разработки сверхразумного ИИ.