Прогресс, который совершил искусственный интеллект за последние несколько лет, неоспорим. Сегодня различные AI-решения используют в бизнесе, медицине и фармакологии, дизайне и множестве других сфер. Однако нравится это далеко не всем. Луддиты 19 века протестовали против внедрения машин, а их современные продолжатели требуют поставить на паузу развитие ИИ. Рассказываем, что такое Pause AI, чего они хотят и какие альтернативные точки зрения существуют.
Pause AI: кто они такие
Движение Pause AI — это группа активистов, которые призывают к приостановке разработки моделей искусственного интеллекта. Это требование касается в первую очередь моделей, превосходящих по мощности GPT-4. В Pause AI считают, что их развитие необходимо поставить на паузу, так как мощные модели ИИ могут представлять угрозу для будущего человечества.
По мнению представителей движения, такое динамичное развитие AI-решений может на самом деле оказаться гонкой ко дну, поэтому человечество необходимо осведомлять о потенциальных рисках ИИ на международном уровне.
Вот некоторые аргументы движения Pause AI против разработки мощного ИИ:
- ИИ с “человеческой конкурентоспособностью” представляет глубокие риски для человечества.
- Пауза в разработке и тестировании моделей ИИ, более мощных, чем GPT-4, позволит должным образом изучить риски, которые они могут представлять.
- Развитие ИИ должно регулироваться на государственном и международном уровнях, однако сейчас такое регулирование фактически отсутствует. Ответственность за это должна взять некая организация в стиле FDA, которая бы контролировала развитие ИИ.
- Компании, разрабатывающие ИИ, движимые мотивами прибыли, рискуют жизнями и подрывают человеческую автономию. Однако выход какой-либо компании из этой гонки не спасет ситуацию, так как ее просто вытеснят конкуренты.
Сегодня Pause AI организуют акции протеста в крупных европейских и американских городах — Лондоне, Сан-Франциско, Нью-Йорке, Берлине и других. Также они призывают подписать петицию. Вот ее основные положения:
- Появление сверхразумного искусственного интеллекта может привести к потере рабочих мест, распространению дезинформации и даже вымиранию человечества.
- Разработка сверхразумного ИИ должна быть приостановлена до того момента, как не будет доказано, что он контролируем, безопасен и соответствует интересам человечества.
- Участие в глобальном протесте поможет человечеству прийти к безопасному и этичному ИИ.
Альтернативные точки зрения
Существуют различные альтернативные точки зрения на движение Pause AI и вопрос о приостановке разработки ИИ.
- Продолжение разработки ИИ
Разработка ИИ должна продолжаться, так как она может принести значительные преимущества для общества, а регулирование и надлежащий контроль могут помочь справиться с потенциальными рисками.
- Неопределенность эффективности паузы
Результат паузы в разработке ИИ остается высоко неопределенным. Сможет ли пауза в разработке ИИ уменьшить экзистенциальный риск?
- Возможность адаптации и обучения
ИИ может быть безопасен, адаптирован к потребностям общества и использован для решения сложных проблем современности.
- Открытый исходный код ИИ
Открытый исходный код ИИ делает эффективную паузу невозможной — доступность ИИ для всех может привести к более быстрому прогрессу и инновациям.
Нужно ли ставить ИИ на паузу? Поделитесь своим мнением в комментариях!