Более 800 известных личностей, включая пионеров в области искусственного интеллекта, известных как его «крестные отцы», и сооснователя компании Apple Стива Возняка, подписали открытое письмо с призывом запретить разработку сверхразумного ИИ. К этому обращению присоединились политики, знаменитости и даже члены королевской семьи, выразив обеспокоенность неконтролируемым развитием технологий.
Авторы письма, опубликованного организацией Future of Life Institute, признают, что инструменты на базе ИИ способны принести человечеству значительные преимущества, такие как невиданный ранее уровень благосостояния и здоровья. Однако они выражают серьезную тревогу по поводу стремления технологических компаний уже в ближайшее десятилетие создать сверхразумный искусственный интеллект. Как сообщает Naked Science, такой ИИ будет способен значительно превосходить людей практически во всех когнитивных задачах, что несет в себе колоссальные риски.
В письме содержится призыв наложить запрет на разработку сверхразумного ИИ до тех пор, пока не будет достигнут широкий научный консенсус относительно того, как создавать такие системы безопасно и эффективно их контролировать. Авторы обращения также настаивают на необходимости получения значительной общественной поддержки, прежде чем подобные технологии будут внедрены в жизнь.
Среди основных опасений, перечисленных в письме, — возможность того, что искусственный интеллект займет такое количество рабочих мест, что люди окажутся экономически невостребованными. Кроме того, подобные технологии могут привести к потере человечеством свободы, гражданских прав и контроля над собственной жизнью. Особое беспокойство вызывают угрозы национальной безопасности и даже потенциальная гибель человечества как вида.
Под обращением поставили свои подписи такие знаковые фигуры, как «крестные отцы ИИ» Джеффри Хинтон и Йошуа Бенджио, основатель Virgin Group Ричард Брэнсон, а также музыканты Will.i.am и Граймс. Свою поддержку выразили принц Гарри и Меган Маркл. В общей сложности инициативу поддержали более 45 тысяч человек, включая 25 тысяч подписантов из аналогичной петиции, что свидетельствует о растущей тревоге в обществе.
