США, Великобритания и 16 других стран подписали соглашение о создании "безопасного по умолчанию" ИИ

США, Великобритания и 16 других стран объединили усилия и подписали новое соглашение о создании искусственного интеллекта (ИИ), который будет "безопасным по умолчанию". Хотя это пока рассматривается как базовый анонс принципов, Агентство кибербезопасности и инфраструктурной безопасности США (CISA) отметило, что это шаг в правильном направлении.

Мы уже видели множество применений ИИ, от простых задач, таких как расчет процентов между двумя числами, до более сложных многоуровневых действий, включающих креативный процесс. Области применения ИИ многочисленны и чем больше параметров будет у моделей, тем более эффективнее, и шире возможно применение, особенно с учетом планов некоторых компаний по интеграции ИИ в телефоны с 2024 года.

В 20-страничном документе, представленном в воскресенье, 18 стран договорились о том, что компании, разрабатывающие и использующие ИИ, должны разрабатывать и внедрять его таким образом, чтобы обеспечить безопасность клиентов и общественности от злоупотребления.

Директор CISA Джен Истерли также говорила о том, как важно для стран понимать, что разработка ИИ должна быть основана на безопасности, и призвала другие страны присоединиться к инициативе.

Это первый случай, когда мы видим подтверждение того, что эти возможности не должны быть только о крутых функциях и о том, как быстро мы можем их вывести на рынок или как мы можем конкурировать, чтобы снизить затраты.

Германия, Италия, Чехия, Эстония, Польша, Австралия, Чили, Израиль, Нигерия и Сингапур также подписали соглашение. Тем временем, чтобы убедиться, что ИИ не станет угрозой, Европа начнет работать над конкретными законами, регулирующими разработку и выпуск новых ИИ-систем. Это означает, что все компании, реализующие свои системы в ЕС, должны будут убедиться, что нет уязвимостей, позволяющих пользователям неправильно использовать ИИ.

Уже очевидно, что использование ИИ остановить невозможно, особенно если мы ожидаем улучшения технологии и, в внедрение в повседневную жизнь. В связи с этим, соглашение имеет большое значение. В то же время важно понимать, что создание законов, регулирующих использование искусственного интеллекта — крайне сложная задача и может занять годы, прежде чем будет реализована. Также необходимо помнить, что ИИ будет обладать способностями, которые будут только развиваться. Это означает, что создание правил и регуляций, применимых к текущей модели ИИ, может быть недостаточным через несколько лет.

Комментарии на сайте