£27 млн выделено на работу Управления по безопасности ИИ Великобритании по сотрудничеству в области безопасного и защищенного искусственного интеллекта. — computerweekly.com
«OpenAI и Microsoft» стали последними компаниями, поддержавшими Управление по безопасности ИИ Великобритании (AISI). Компании обязались поддержать «Alignment Project» — международную инициативу, направленную на создание передовых систем ИИ, которые будут безопасными, защищенными и будут действовать должным образом. На саммите AI Impact Summit в Индии правительство Великобритании объявило о выделении £27 млн на исследования в области согласования ИИ, поддержав около 60 проектов. Проект сочетает грантовое финансирование исследований, доступ к вычислительной инфраструктуре и постоянное академическое наставничество ведущих ученых AISI в этой области для продвижения исследований в области согласования. Без постоянного прогресса в этой области все более мощные модели ИИ могут действовать непредсказуемо или бесконтрольно, что создает проблемы для глобальной безопасности и управления. «ИИ открывает перед нами огромные возможности, но мы всегда будем трезво оценивать необходимость встраивать безопасность в него с самого начала», — заявил заместитель премьер-министра Великобритании Дэвид Ламми. «Мы создали прочный фундамент безопасности, который позволил нам начать реализовывать преимущества этой технологии», — добавил он. «Поддержка OpenAI и Microsoft будет неоценимой для дальнейшего прогресса в этом направлении». Правительство рассматривает согласование ИИ как усилия по обеспечению того, чтобы передовые системы ИИ действовали должным образом, без непреднамеренных или вредных последствий. Оно включает в себя разработку методов, предотвращающих небезопасное поведение по мере роста возможностей систем ИИ. Министерство науки, инноваций и технологий (DSIT) рассматривает прогресс в области согласования как средство повышения уверенности и доверия к ИИ, что в конечном итоге поддержит внедрение систем, повышающих производительность. Министр по вопросам ИИ Великобритании Канишка Нараян сказал: «Мы сможем раскрыть весь потенциал ИИ только в том случае, если люди будут ему доверять — это миссия, которая движет всеми нами. Доверие является одним из самых больших препятствий на пути внедрения ИИ, и исследования в области согласования решают эту проблему напрямую».
Срочная задача
С развитием систем ИИ, способных выполнять все более сложные задачи, растет глобальный консенсус относительно того, что согласование ИИ является одной из самых неотложных технических проблем нашей эпохи. Миа Глейз, вице-президент по исследованиям в OpenAI, заявила: «По мере того как системы ИИ становятся более способными и автономными, согласование должно идти в ногу со временем. Самые сложные проблемы не будут решены ни одной организацией, работающей в изоляции — нам нужны независимые команды, тестирующие различные предположения и подходы». «Наша поддержка «Alignment Project» Управления по безопасности ИИ Великобритании дополняет нашу внутреннюю работу по согласованию и помогает укрепить более широкую исследовательскую экосистему, ориентированную на обеспечение надежности и контролируемости передовых систем по мере их развертывания в более открытых средах», — добавила она. Помимо OpenAI и Microsoft, «Alignment Project» AISI поддерживается международной коалицией, включающей Канадский институт передовых исследований, Австралийское управление по безопасности ИИ при Министерстве промышленности, науки и ресурсов, Schmidt Sciences, Amazon Web Services, Anthropic, AI Safety Tactical Opportunities Fund, Halcyon Futures, Safe AI Fund, Sympatico Ventures, Renaissance Philanthropy, UK Research and Innovation и Advanced Research and Invention Agency. Проект возглавляет экспертный консультативный совет, в который входят Йошуа Бенжио, Зико Колтер, Шафи Гольдвассер и Андреа Линкольн. DSIT заявило, что «Alignment Project» опирается на международное лидерство AISI, обеспечивая возможность ведущим исследователям из Великобритании и стран-партнеров формировать направление развития отрасли и добиваться прогресса в области безопасного ИИ, который ведет себя предсказуемо.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cliff Saran