ИИ-стартапы OpenAI и Anthropic подписали соглашения, открывающие новую стадию сотрудничества с правительством Соединенных Штатов для исследований, тестирования и оценки их моделей искусственного интеллекта, сообщил в четверг Институт безопасности искусственного интеллекта США.
Первое в своем роде соглашение было заключено в то время, когда компании сталкиваются с пристальным вниманием регулирующих органов по безопасному и этичному использованию технологий искусственного интеллекта.
На этой неделе законодатели Калифорнии намерены проголосовать за законопроект, который в целом регулирует разработку и внедрение искусственного интеллекта в штате.
В соответствии с соглашениями, Институт безопасности искусственного интеллекта США получит доступ к основным новым моделям OpenAI и Anthropic до и после их публичного выпуска.
Соглашения также позволят проводить совместные исследования для оценки возможностей моделей искусственного интеллекта и связанных с ними рисков.
"Мы считаем, что институт призван сыграть решающую роль в определении лидерства США в ответственном развитии искусственного интеллекта, и надеемся, что наша совместная работа создаст основу, на которую сможет опираться остальной мир", - сказал Джейсон Квон, директор по стратегии в компании OpenAI.
Институт, входящий в состав Национального института стандартов и технологий (NIST) Министерства торговли США, также будет сотрудничать с британским институтом безопасности искусственного интеллекта и предоставлять компаниям информацию о возможных мерах по повышению безопасности.
Институт безопасности искусственного интеллекта США был создан в прошлом году в рамках исполнительного распоряжения администрации президента Джо Байдена для оценки известных и возникающих рисков, связанных с моделями искусственного интеллекта.