Исследователь Anthropic ушел из индустрии из-за опасений о конце света

Исследователь Anthropic Джейкоб Коксон решил покинуть сферу искусственного интеллекта (ИИ) из-за опасений, что стремительное соперничество крупных технологических компаний может приблизить человечество к «точке невозврата». Об этом 8 сентября сообщила газета The Wall Street Journal (WSJ).

«Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — говорится в публикации.

По его мнению, развитие ИИ способно привести к катастрофическому сценарию уже к концу 2027 года.

Уточняется, что Коксон решил уйти из Anthropic, поскольку не хочет быть частью гонки за создание всё более автономных и способных к саморазвитию ИИ-моделей. Он опасается, что в перспективе такие системы могут стать неуправляемыми и создать угрозу существованию человечества. По словам 27-летнего математика из Великобритании, внутри компании всё чаще звучат тревожные оценки происходящего — коллеги описывают нынешнее развитие ИИ как приближение к «критической точке» и «эндшпилю».

По словам Коксона, в начале года он перешел из OpenAI в Anthropic, рассчитывая работать в компании, известной своим вниманием к вопросам безопасности ИИ. При этом он по-прежнему высоко оценивает позицию Anthropic, однако теперь считает, что частный бизнес не может самостоятельно и ответственно развивать ИИ без государственного контроля либо согласованных мер по замедлению темпов развития отрасли.

Как пишет газета, после ухода из ИИ-сферы Коксон намерен сосредоточиться на изучении поэзии.

Верховный комиссар ООН по правам человека Фолькер Тюрк 7 сентября сообщил, что стремительное и неконтролируемое развитие ИИ может нести смертельную опасность для всего человечества. Тюрк раскритиковал тот факт, что группа людей обладает почти неограниченной властью над технологиями ИИ ради эксплуатации персональных данных, в то время как правительства затягивают принятие реальных мер по регулированию сферы.