Герцог и герцогиня Сассекские присоединились к пионерам в области искусственного интеллекта и нобелевским лауреатам, призвав к запрету разработки сверхразумных систем искусственного интеллекта.
Принц Гарри и Меган входят в число тех, кто подписал заявление с призывом «запретить развитие сверхинтеллекта». Сверхинтеллект (СИ) — это термин, обозначающий системы искусственного интеллекта, которые ещё предстоит разработать и которые будут превосходить человеческий интеллект во всех когнитивных задачах.
Их заявление опубликовано на сайте archewell.org
В заявлении содержится призыв сохранять запрет до тех пор, пока не будет достигнут «широкий научный консенсус» в отношении «безопасной и контролируемой» разработки искусственного интеллекта, а также пока не будет получена «широкая общественная поддержка».
Его также подписали пионер в области ИИ и нобелевский лауреат Джеффри Хинтон, а также его коллега, «крёстный отец» современного ИИ, Йошуа Бенжио; соучредитель Apple Стив Возняк; британский предприниматель Ричард Брэнсон; Сьюзан Райс, бывший советник по национальной безопасности США при Бараке Обаме; бывший президент Ирландии Мэри Робинсон, а также британский писатель и телеведущий Стивен Фрай. Среди других подписавших письмо нобелевских лауреатов — Беатрис Фин, Фрэнк Вильчек, Джон К. Мазер и Дарон Аджемоглу.
Заявление, адресованное правительствам, технологическим компаниям и законодателям, было подготовлено Институтом будущего жизни (Future of Life Institute, FLI), американской организацией по безопасности ИИ, которая в 2023 году призвала приостановить разработку мощных систем ИИ вскоре после того, как появление ChatGPT сделало ИИ предметом политических и общественных дискуссий по всему миру.
В июле Марк Цукерберг, генеральный директор материнской компании Facebook Meta*, одного из крупнейших разработчиков ИИ в США, заявил, что разработка сверхинтеллекта «уже не за горами». Однако некоторые эксперты считают, что разговоры о сверхинтеллекте отражают конкурентную борьбу между технологическими компаниями, которые только в этом году потратили сотни миллиардов долларов на ИИ, а не приближение отрасли к каким-либо техническим прорывам.
Тем не менее, по мнению FLI, перспектива создания искусственного интеллекта «в ближайшее десятилетие» несёт в себе множество угроз: от сокращения рабочих мест до ущемления гражданских свобод, рисков для национальной безопасности и даже угрозы вымирания человечества. Экзистенциальные опасения по поводу ИИ связаны с потенциальной способностью системы обходить человеческий контроль и правила безопасности и совершать действия, противоречащие интересам людей.
Компания FLI опубликовала результаты национального опроса в США, согласно которым примерно три четверти американцев выступают за строгое регулирование продвинутого ИИ, а шесть из десяти считают, что сверхчеловеческий ИИ не должен создаваться до тех пор, пока не будет доказана его безопасность и управляемость. Опрос 2000 взрослых американцев показал, что только 5% поддерживают статус-кво — быстрое и нерегулируемое развитие.
Понравилась статья? Поблагодарите автора лайком!
Чтобы не пропустить новости о королевской семье, подпишитесь на мой канал, на сайт TheCrowns.ru или на телеграм канал, на сайте выходит еще больше статей, а в телеграм - больше коротких постов