Финансирование работ по разработке стандартов безопасности для искусственного интеллекта (ИИ) в США может оказаться недостаточным, чтобы выполнить амбициозные планы. В октябре был объявлен указ Белого дома, который призывает к разработке стандартов для проверки ИИ-систем с целью выявления их предвзятости, скрытых угроз и проблем.
Национальный институт стандартов и технологий (НИСТ) ответственен за разработку этих стандартов, но у него, кажется, не хватает средств, чтобы выполнить это задание самостоятельно до июля 2024 года, как требует указ. Это вызывает беспокойство среди членов Конгресса, которые опасаются, что НИСТ придется сильно зависеть от экспертизы частных компаний, которые могут иметь собственные интересы в формировании стандартов.
НИСТ уже выпустил фреймворк для управления рисками, связанными с ИИ, и разработал методы измерения общественного доверия к новым ИИ-инструментам. Тем не менее, агентство, которое стандартизирует множество продуктов, не располагает достаточными ресурсами по сравнению с крупными компаниями, которые вложили миллионы в обучение мощных ИИ-моделей.
Члены Конгресса выразили беспокойство по поводу прозрачности процесса привлечения частных компаний и срочности установления стандартов в условиях, когда исследования в области тестирования ИИ находятся на начальной стадии и существует разногласие среди экспертов.
НИСТ предпринимает шаги для увеличения прозрачности, включая сбор мнения внешних экспертов и компаний относительно стандартов для оценки ИИ-моделей. Однако остается вопрос, будет ли это достаточно для выполнения задачи.
Эти беспокойства поддерживают и некоторые эксперты по ИИ, которые видят в НИСТ надежду на разрешение вопросов, связанных с рисками ИИ, и считают, что для успешного выполнения задачи агентству нужны большие ресурсы и поддержка.