Мировое научное сообщество выступило с инициативой. Речь идет о будущем технологий. Предлагаются серьезные меры контроля. Судьба искусственного интеллекта решается сейчас.
На площадке Генеральной Ассамблеи ООН прозвучал беспрецедентный призыв от мирового научного сообщества. Более двух сотен ведущих экспертов, среди которых десять нобелевских лауреатов и пионеры в сфере цифровых технологий, подписали открытое письмо. В нем они требуют положить конец «дикому западу» в развитии нейросетей и установить четкие, юридически обязывающие правила игры для всех.
Как сообщает пресс-служба ГУ МВД России по Санкт-Петербургу и Ленинградской области, документ, получивший название «Глобальный призыв к красным линиям в области ИИ», очерчивает круг абсолютно недопустимых применений технологии. Вопрос стоит ребром: человечество должно до конца 2026 года договориться о запретах, которые невозможно будет обойти. Речь идет о четырех критически важных сферах, где бесконтрольное внедрение алгоритмов может привести к катастрофе.
Первая «красная линия» касается систем вооружений. Ученые настаивают на полном запрете передачи искусственному интеллекту полномочий по управлению ядерным арсеналом или другими смертоносными комплексами. Вторая угроза - это организация тотальной цифровой слежки за населением, превращающей жизнь в аквариум. Третий пункт направлен против систем социального скоринга, которые могут делить людей на «касты» на основе их поведения. Наконец, четвертый запрет должен коснуться скрытого использования ИИ в коммуникациях, когда человек не знает, что общается с машиной, а не с живым собеседником.
Авторы обращения подчеркивают, что время добровольных обязательств и этических кодексов, принимаемых самими IT-корпорациями, безвозвратно ушло. Эти меры оказались недостаточными для сдерживания потенциальных угроз глобальной безопасности. Стремительное развитие технологий опережает любые попытки саморегулирования, создавая опасные лазейки для злоупотреблений.
Для эффективного надзора за соблюдением будущих запретов предлагается создать новый международный орган. По своей сути это должна быть независимая структура, уполномоченная отслеживать нарушения, анализировать возникающие риски и формировать рекомендации для правительств по всему миру. Эта инициатива, уже вызвавшая широкий резонанс, станет центральной темой для обсуждения в рабочих группах ООН и на ключевых международных саммитах в ближайшие месяцы. От исхода этих дебатов зависит, станет ли искусственный интеллект надежным помощником человечества или превратится в неконтролируемую угрозу.