В рассуждениях о роли и месте искусстенного интеллекта часто возникает вопрос: а не перегнем ли мы палку опираясь на нашего будущего помощника и советчика ИИ, не нарушится ли баланс и не приведет ли это нас к зависимости от ИИ-монстра, которого можем сами взрастить?
Почему нужен закон?
Так вот оказывается такой проблемой озаботилось и Правительство, поручив Минцифре собрать предложения и подготовить законопроект, закрепляющий ведущую роль человека в принятиии решений с применением ИИ в сферах образования, медицины, юриспрудениции и безопасности общества.
Планируется принять соответствующий закон о регулировании нейросетей.
В обосновании необходимости для принятия закона приводятся ошибки медицинского оборудования с применением ИИ, рекомендации несуществующих норм права, упрощенный подход в преподавании и проверке знаний.
Потому стоит вопрос об усилении контроля ИИ, но не о совершенном запрете принятий решений с его использованием.
Именно в таких чувствительных социальных сферах цена ошибки очень высока ,часто влияет на жизнь человека, его здоровье и защиту прав людей. Потому цель будущего закона – это максимально снизить возможные риски и определить четкую ответственность в применении ИИ как пользователей, так и разработчиков.
Сегодня нейросеть работает как черный ящик, ее использование несет риски в авторстве используемой информации, достоверности и вопросах этических норм.
Риски использования ИИ
Потому, по мнению представителей Госдумы, так размывается ответственность возможной ошибки, кто должен отвечать: разработчики, операторы или государство ?
И все это порождает недоверие граждан к использованию цифровых сервисов.
Во многих странах уже законодательно установлено регулирование искусственного интеллекта.
Кроме того, по мнению представителей науки, к главному побочному эффекту ИИ относят широкую доступность знаний, которая снижает когнитивные усилия. Ведь если студенты всегда могут легко получить ответ на любой вопрос, пропадает привычка мыслить критически.
Все это заставляет принимать меры к тому чтобы пока не предоставлять ИИ слишком широкие полномочия и всегда прорабатывать различные сценарии использования нейросети, учитывая уровень потенциальных угроз.
https://iz.ru/2041764/valerii-kodachigov/shah-ii-mat-nejroseti-ogranichat-v-prinyatii-reshenij-v-socialno-znachimyh-sferah