OpenAI распустиласвою команду, занимавшуюся долгосрочными рисками искусственного интеллекта, менее чем через год после ее создания, а уходящий руководитель предупредил, что безопасность в компании «отошла на второй план перед блестящими продуктами».
Компания распустила команду «Superalignment», перед которой была поставлена задача создать меры безопасности для передовых систем общего интеллекта (AGI), которые «могут привести к лишению человечества возможностей или даже к его исчезновению».
Роспуск команды, о котором впервые сообщилWired, произошел через несколько дней после того, как руководители OpenAI Илья Суцкевер и Ян Лейке объявили о своем уходе из компании, возглавляемой Сэмом Альтманом.
«OpenAI берет на себя огромную ответственность от имени всего человечества, — написалЛейке на X. — Но за последние годы культура и процессы безопасности отошли на второй план по сравнению с блестящей продукцией. Нам давно пора серьезно отнестись к последствиям использования ОИИ».
Суцкевер и Лейке, возглавлявшие команду безопасности OpenAI, ушли вскоре после того, как компания представила обновленную версию ChatGPT, способную вести разговоры и переводить языки для пользователей в режиме реального времени. Это открытие привело к сравнению с научно-фантастическим фильмом 2013 года «Она», в котором рассказывается о сверхразумном искусственном интеллекте.
«Я очень признателен за вклад@janleikeв исследования по согласованию и культуре безопасности OpenAI, и мне очень грустно видеть его уход, — написал Альтман на X. — Он прав, нам предстоит еще многое сделать; мы полны решимости сделать это. В ближайшие пару дней у меня будет более длинный пост».
Суцкевер не указал причин, которые привели к его уходу, а в своем собственном посте на X он выразил уверенность в том, что «OpenAI создаст [AGI], который будет одновременно безопасным и полезным» под руководством Альтмана и других руководителей фирмы.
Ранее миллиардер, актер и продюсер Тайлер Перри высказалсяпо поводу Sora от OpenAI. У Перри были большие планы по расширению продюсерской студии в Атланте. Но революция генеративного искусственного интеллекта заставила его задуматься. Перри назвал возможности ИИ «потрясающими», поскольку они уменьшают потребность студий в создании больших декораций и поездках в места для съемок.