Более 1300 специалистов в области искусственного интеллекта и информационных технологий, включая Илона Маска, подписали открытое письмо, призывающее к приостановке разработки моделей искусственного интеллекта, превосходящих по мощности GPT-4, из-за потенциальных рисков для общества и человечества. Письмо было опубликовано некоммерческим Институтом будущего жизни и говорит о "бесконтрольной гонке" между исследователями, которые создают и внедряют системы машинного обучения, которые не поддаются пониманию, предсказанию и контролю даже их создателей.
Петиция требует, чтобы все лаборатории искусственного интеллекта немедленно прекратили обучение систем искусственного интеллекта мощнее GTP-4, на шесть месяцев по крайней мере, и публично и проверяемо огласили эту паузу, которая охватывает всех ключевых фигур. В случае невыполнения этой меры, правительства должны вмешаться и ввести мораторий.
Среди подписавших петицию находятся Стив Возняк, Йошуа Бенжио, Гэри Маркус, Стюарт Рассел, Эмад Мостак, Яан Таллинн, Юваль Харари, Эндрю Ян и Илон Маск. Однако издание Verge предупреждает, что некоторые имена были добавлены в список явно в виде шутки.
Учитывая стремление к конкуренции между Google, Microsoft и Baidu, эти требования не обязательно будут выполнены. Однако это свидетельствует о растущей оппозиции к подходу "отправим сейчас, исправим потом", который может со временем убедить законодателей принять соответствующие правила.
В соответствии с письмом, даже OpenAI выразила мнение о необходимости "независимого контроля" над будущими системами искусственного интеллекта (ИИ), которые должны соответствовать стандартам безопасности. Подписавшие это заявление утверждают, что пришло время для этого.
В данном письме, говориться что, лаборатории по искусственному интеллекту и независимые эксперты должны использовать этот момент, чтобы вместе разработать и внедрить набор общих протоколов для проектирования и разработки передового ИИ, который был бы открыт для тщательной проверки и надзора сторонними экспертами. Эти протоколы должны гарантировать, что системы, которые им следуют, безопасны вне всяких сомнений, как отмечается в документе.
Появление дешевых и мощных генеративных моделей вроде GPT уже началось. В Стэнфордском университете создали доступный аналог ChatGPT. ИИ Alpaca по многим параметрам не уступает нашумевшему ChatGPT, но создан на языковой модели с открытым кодом, а его обучение стоит менее $600.
