Илон Маск выступил с резким предупреждением о том, что человечество может оказаться в «ситуации Терминатора». Он заявил в суде, что неконтролируемый искусственный интеллект (ИИ) в конечном итоге может «убить нас всех».
Это взрывное заявление прозвучало во время судебного разбирательства между Маском и OpenAI, компанией-первопроходцем в области искусственного интеллекта, соучредителем которой он является.
Однако ситуация быстро вышла из-под контроля. Маск поднял вопрос о будущем человечества в целом, поскольку мощные системы искусственного интеллекта стремительно развиваются практически без надзора.
Маск бьет тревогу из-за экзистенциальной угрозы
Во время дачи показаний Маск не стеснялся в выражениях, описывая, что, по его мнению, произойдет, если нынешние тенденции сохранятся.
«Самый большой риск заключается в том, что ИИ убьет нас всех», — предупредил он, описывая наихудший сценарий, при котором передовые системы выйдут из-под контроля.
Он заявил, что речь идет не только о корпоративной структуре, но и о выживании.
«Этого исхода нам нужно избежать», — сказал Маск, подчеркнув, что по мере того, как искусственный интеллект становится все более автономным и мощным, необходимо соблюдать предельную осторожность.
От технологического спора к глобальному предупреждению
В основе иска лежит заявление Маска о том, что OpenAI отказалась от своей первоначальной некоммерческой миссии и переключилась на коммерческую экспансию, поддерживаемую крупными технологическими партнерами.
Но Маск неоднократно отвлекался от бизнес-аргументов, чтобы сосредоточиться на том, что он считает гораздо более серьезной угрозой, — бесконтрольном ускорении развития искусственного интеллекта без надлежащих мер предосторожности.
На протяжении многих лет Маск предупреждал, что искусственный интеллект представляет собой одну из самых серьезных угроз для человечества.
Из его последних показаний следует, что, по его мнению, эта угроза уже не является чем-то теоретическим.
«Сценарий Терминатора» вызывает опасения
Маск неоднократно упоминал сценарий, в котором машины восстают против людей, как в фильме «Терминатор».
Отсылки к американскому научно-фантастическому фильму Джеймса Кэмерона «Терминатор» 1984 года привлекли внимание в зале суда.
Однако они также по некоторым данным вызвали недовольство судьи, который настаивал на том, чтобы сосредоточиться на юридических вопросах.
Но Маск не сдавался и продолжал связывать дело с тем, что, по его мнению, представляет собой реальную угрозу.
Его предостережения перекликаются с опасениями все большего числа экспертов, которые считают, что продвинутые системы искусственного интеллекта могут выйти из-под контроля человека, если их не ограничить должным образом.
Крупные технологические компании сопротивляются
OpenAI отвергла обвинения Маска, заявив, что переход к коммерческой модели необходим для финансирования масштабной инфраструктуры, необходимой для создания передовых систем искусственного интеллекта.
Компания также указала на участие Маска в конкурирующих проектах в области искусственного интеллекта, предположив, что на его иск могло повлиять соперничество в отрасли.
Однако критики утверждают, что за этим аргументом скрывается более серьезная проблема: огромные финансовые стимулы подталкивают к опасной гонке за созданием все более мощных систем, в которой безопасность отходит на второй план.
Опасная гонка без тормозов
В сфере искусственного интеллекта сейчас наблюдается раскол: одни бьют тревогу, другие преуменьшают долгосрочные риски.
Некоторые исследователи предупреждают, что высокоразвитые системы в конечном итоге могут начать действовать независимо от человека, что вызывает серьезные опасения по поводу согласованности действий и безопасности.
Другие считают эти опасения надуманными, но даже скептики признают, что современный искусственный интеллект развивается такими темпами, которые мало кто может предсказать.
Ставки продолжают расти
То, что начиналось как юридический спор, теперь перерастает в более масштабную борьбу за будущее искусственного интеллекта и за то, не ведет ли человечество себя как во сне, приближаясь к кризису.
Предупреждение Маска напрямую затрагивает эту проблему, поскольку мощные системы создаются с головокружительной скоростью, а механизмы контроля над ними остаются неясными или вовсе отсутствуют.
Дискуссия уже вышла за пределы Кремниевой долины.
Она разворачивается в судах, правительствах и в рамках глобальных политических дискуссий, и ее последствия могут быть необратимыми.
И если Маск прав, цена ошибки может оказаться гораздо выше, чем кто-либо готов признать.