Идея глобального контроля над искусственным интеллектом теоретически возможна, но на практике это одна из самых сложных задач XXI века. Проблема в том, что ИИ - это не единая технология и у неё нет единого центра управления. Его развивают государства, частные корпорации, научные центры, облачные платформы. И сами системы ИИ очень разные: от военных и промышленных до бытовых пользовательских сервисов. Поэтому сегодня речь идёт скорее не о полном контроле, а о системе ограничений, мониторинга и управления рисками.
Для международного регулирования необходимы несколько уровней (собственно, сейчас по ним и развивается международная и межгосударственная ИИ-повестка).
1️⃣ Первый - это общие правила, своего рода аналог ядерного или космического регулирования.
Нужно определить, какие модели считаются потенциально опасными, какие вычислительные мощности требуют лицензирования, и где человек обязательно должен сохранять финальное право решения - например, в военной, медицинской или государственной сфере.
2️⃣ Второй уровень - контроль вычислительных ресурсов.
Современный мощный ИИ невозможен без огромных дата-центров, специализированных процессоров и колоссального энергопотребления. Поэтому многие эксперты считают, что контролировать нужно не столько сам код, сколько инфраструктуру: производство чипов, доступ к сверхмощным вычислительным кластерам и обучение моделей определённого масштаба.
3️⃣ Третий момент - прозрачность.
Без независимого аудита и понимания того, как работает ИИ, любое регулирование будет формальным. Но и здесь возникает большая (я бы даже сказала, фундаментальная) проблема: современные нейросети зачастую непрозрачны даже для собственных разработчиков🎀
💁🏼♀️При этом полностью "запереть" ИИ уже невозможно. Технологии распространяются по всему миру, модели можно дообучать локально, а вычисления постепенно дешевеют. Изначально технологии ИИ развивали все и открыто (а не как секретные и особо контролируемые ядерные программы). Поэтому наиболее реалистичный сценарий - не тотальный контроль, а система международных ограничений, общепринятых норм, лицензирования и ответственности.
И главный вопрос сегодня - успеет ли человечество выстроить такие механизмы быстрее, чем ИИ станет по-настоящему автономным...
