Стратегия "действуй быстро и все разрушай" немного рискованна для будущего человечества.
Эксперты по искусственному интеллекту, технологи и бизнес-лидеры входят в число более чем 1000 петиционеров, умоляющих лаборатории искусственного интеллекта приостановить обучение системам, "более мощным, чем GPT-4".
Открытое письмо было опубликовано в среду Институтом будущего жизни, некоммерческой организацией, занимающейся снижением рисков, связанных с преобразующими технологиями. В список подписантов входят соучредитель Apple Стив Возняк, SpaceX, Tesla и генеральный директор Twitter Илон Маск, генеральный директор Stability AI Эмад Мостак, исполнительный директор Центра гуманных технологий Тристан Харрис и Йошуа Бенгио, основатель исследовательского института искусственного интеллекта Mila.
"Продвинутый искусственный интеллект может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соответствующей тщательностью и ресурсами", - говорилось в письме. "К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории искусственного интеллекта оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать".
Такие компании, как OpenAI, Microsoft и Google, вовсю продвигают свои генеративные модели искусственного интеллекта. Подпитываемые амбициями завоевать рынок искусственного интеллекта, новые разработки и выпуски продуктов анонсируются почти ежедневно. Но в письме говорится, что все это происходит слишком быстро, чтобы можно было учитывать этические, нормативные соображения и соображения безопасности.
"Мы должны спросить себя: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могли бы превзойти нас числом, перехитрить, устареть и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?"
В открытом письме содержится призыв к шестимесячной паузе в экспериментах с искусственным интеллектом, которые "следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми". В нем рекомендуется, чтобы лаборатории искусственного интеллекта использовали это время для коллективной разработки протоколов безопасности, которые могут быть проверены третьими сторонами. Если они не остановятся, правительства должны вмешаться и ввести мораторий.
В то же время петиция призывает политиков взаимодействовать с регулирующими органами, занимающимися надзором и отслеживанием систем искусственного интеллекта, отличением реального контента от сгенерированного, аудитом и сертификацией моделей искусственного интеллекта, юридической ответственностью за "вред, причиненный искусственным интеллектом", государственным финансированием исследований в области искусственного интеллекта и институтами "для борьбы с драматические экономические и политические потрясения (особенно для демократии), которые вызовет искусственный интеллект".
В письме не говорится о полной остановке всех разработок в области искусственного интеллекта. Это просто говорит о том, что нужно нажать на тормоза. Обществам нужен быстрый тайм-аут для создания надлежащей инфраструктуры, чтобы революция в области искусственного интеллекта была безопасной и приносила пользу всем. Давайте наслаждаться долгим искусственным летом, - говорится в заключении письма, - а не бросаться неподготовленными в осень".