Ребята из OpenAI (авторы ChatGPT) решили, что мы как человечество недостаточно делаем для решения проблемы AI alignment, и нам нужно сразу делать Superalignment. (Если вы не понимаете, о чем речь, то вам срочно нужно прочитать нашу с Вастриком статью на эту тему. Если вкратце, то AI alignment – это согласование ценностей искусственного интеллекта с человеческими таким образом, чтобы он нас всех не порешил, когда у него появится такая возможность.)
По сути, OpenAI пообещали выделять в течение ближайших четырех лет 20% имеющихся у них вычислительных мощностей на попытки решить задачу элайнмента. Рулить этой командой будут видные люди – Илья Суцкевер и Ян Лейке, ну и вы тоже можете к ней присоединиться на з/п в $250–450к в год (заодно, может, и человечество спасете).
Задача состоит в том, чтобы изладить специальный ИИ, который будет помогать людям решать проблемы AI alignment не хуже мясных исследователей. Дескать, как только мы такую робо-няньку сделаем – то сразу заживем!
Я думаю, наиболее ироничным концом этой истории может быть, только если в итоге погибелью человечества станет именно вот этот самый жестяной эксперт по супер-элайнменту от OpenAI.
Подписывайтесь на мой канал за обзором интересных новостей из мира финансов и технологий.