В России написали главный закон об ИИ

В России написали главный закон об ИИ

Правительство готовит масштабный Федеральный закон "Об основах государственного регулирования сфер применения технологий ИИ" он должен вступить в силу с 1 сентября 2027 года

Мое мнение будет заключаться в цитаты

Я решил, будет интересно сразу собрать вам топ странных требований) в общем мое мнение, ну авторы слабо понимают как нейросети работают

🔘Чистокровный российский ИИ (ст. 7)

Чтобы модель признали суверенной (а только такие будут покупать госорганы и госкорпорации), она должна быть на 100% чистой

Что требует закон: Обучать ИИ можно только на датасетах, которые собраны на территории РФ, гражданами РФ или российскими юрлицами

Как при обучении LLM доказать, что терабайты данных и миллионы строк кода это чисто российский продукт от людей с паспортом РФ, который не пересекал границу? 🫣 Тоесть международный open source можно забыть и мы идем прямо в Чебурнет?

🔘Нейросети проверят на духовность (ст. 4 и 19)

подзаголовок уже интригующий, да?)

Что требует закон: разработка ИИ должна идти с учетом "традиционных российских духовно-нравственных ценностей" (приоритет духовного над материальным, коллективизм и т.д.). Правительство создаст специальную экспертную организацию, которая будет проверять модели на соответствие этим ценностям

Как закодить коллективизм в функцию потерь (loss function)? Как алгоритмически измерить приоритет духовного? Это открывает гигантский простор для субъективной цензуры. Неправильно сгенерировал картинку или ответил на промпт не прошел госэкспертизу

🔘Требование задокументировать "черный ящик" (ст. 10)

Что требует закон: Разработчик обязан задокументировать логику функционирования модели в объеме, достаточном для ее проверки проверяющими органами.

Deep Learning это буквально черный ящик, разве нет? Есть ли в мире хоть один разработчик, который реально сможет объяснить и задокументировать логику, почему модель с миллиардами параметров выдала именно такое конкретное слово в ответ на промпт?

🔘Презумпция виновности для разработчиков😏 (ст. 11)

это ваще мем

Что требует закон: Если пользователь сгенерировал через ваш ии что-то незаконное, виноват разработчик/владелец сервиса. Вы освобождаетесь от ответственности, только если докажете, что предприняли "исчерпывающие меры" защиты

Разве справедливо, что из-за юзера обошедшего фильтры новым джейлбрейком ради запрещенки, крайним оказывается разработчик, которому придется доказывать проверяющим, что он не виноват? Не добьемся ли мы этим законом лишь того, что все компании просто лоботомируют свои модели от греха подальше, ведь абсолютной защиты в ии не существует

🔘Закон Яровой для нейросетей (ст. 10.3)

Что требует закон: Если у ИИ-сервиса больше 500 000 пользователей из РФ в сутки, он обязан выполнять требования ст. 10.1 закона об информации (ОРИ).

Это значит, что владелец сервиса обязан хранить всю переписку пользователей с ии, весь сгенерированный контент, логи и передавать это всё по запросу ФСБ. Прощай, конфиденциальность корпоративных и личных промптов

🔘Вотермарки, которые невозможно контролировать (ст. 12)

Что требует закон: Весь сгенерированный контент должен маркироваться (и визуально, и кодом). Крупные соцсети и площадки обязаны сами находить контент без маркировки и удалять его или вешать плашку "сгенерировано ии"

В мире пока не существует надежных ии детекторов. Отличить хорошую генерацию условно midjourney от фото, или текст gpt от копирайтера со 100% точностью невозможно. Как площадки типо vk и telegram должны автоматически находить картинки без вотермарок и удалять их - загадка, это приведет либо к массовым ошибочным банам реального контента, либо норма просто не будет работать

🔘Сертификация ФСТЭК (ст. 8)

Что требует закон: Для работы с госорганами и КИИ (банки, связь, транспорт), модель должна пройти сертификацию по безопасности в ФСБ и ФСТЭК

Сертификация в этих органах занимает месяцы, а иногда годы, в мире ии новые версии моделей выходят каждую неделю, пока модель пройдет сертификацию, она уже устареет

Такие вот дела, пишите что думаете по этому поводу