- Губернатор Калифорнии заблокировал первый законопроект о регулировании искусственного интеллекта.
- Гэвин Ньюсом применил вето на закон, принятый в законодательном собрании, который был направлен на предотвращение катастроф, связанных с использованием ИИ. По его мнению, данный закон не обеспечивает настоящую безопасность, а лишь создает её иллюзию.
- Заботы о потенциальных последствиях использования ИИ побудили законодателей возложить на разработчиков ответственность за безопасность. Законопроект предусматривал тестирование, оценку рисков, а также возможность аварийной остановки моделей и введение крупных штрафов. В процессе обсуждения его уточнили, ограничив действие лишь на модели ИИ стоимостью от 100 миллионов долларов и с мощностью обучения не менее 10^26 флопс.
- Ньюсом отметил, что такая формулировка игнорирует опасные маломощные модели, которые могут быть рискованными в условиях повышенной угрозы или работы с конфиденциальными данными. Губернатор подчеркнул необходимость регуляции, но считает, что её критерии должны формироваться на основе опыта и анализа, а не писаться по произвольным представлениям.
- С другой стороны, разработчики ИИ выступают против проекта, так как ограничения могут подавить их возможность создавать более продвинутые системы. Будет интересно узнать, представят ли законодатели новый вариант с более адаптивной системой оценки рисков ИИ.
