Компания OpenAI, создавшая ChatGPT, распустила команду, которая занималась рисками, связанными с развитием ИИ. То есть компания попрощалась с людьми, отвечавшими за то, чтобы нейросеть нас не поработила.
Группа безопасности проработала меньше года. Как пишет CNBC, некоторые члены команды уходят в другие подразделения внутри компании, а кто-то покидаёт её с концами. Рассказываем, что там случилось.
Что за команда?
Перед OpenAI Superalignment стояла задача — решить проблему контроля ИИ в ближайшие четыре года. Компания выделила на проект по безопасности всего человечества только 20% от всех мощностей.
Почему их распустили?
Руководители команды — Илья Суцкевер и Ян Лейке объявили об уходе из проекта недавно. Лейке написал любопытный пост о том, что приоритеты у OpenAI вовсе не про безопасность. По его словам, команде часто приходилось "идти против ветра" и выклянчивать ресурсы для достижения целей.
Создание машин, которые умнее человека, — опасное занятие. OpenAI берёт на себя огромную ответственность от имени всего человечества, — написал Ян.
С чего всё началось?
В ноябре 2023-го совет директоров уволил гендира Сэма Альтмана из-за недостаточной откровенности в вопросах безопасности. Через неделю Альтмана вернули. 95% штата OpenAI выдвинули условие: не вернётся Сэм — уйдём и мы.
Теория заговора
Уход Суцкевера и Лейке совпал с анонсом новой ChatGPT-4 Omni. Ключевое отличие от старой модели — одновременная работа с текстом, изображением и звуком, что позволяет создавать новые пользовательские сценарии.
Ждём?
Илья Суцкевер родом из Нижнего Новгорода. Вырос в Израиле, эмигрировал в Канаду, попал в Google, а потом стал сооснователем OpenAI. Когда учёный покинул компанию, то написал пост с намёком, что запускает новый проект.
Российские СМИ предположили, что Суцкевер вернётся на Родину для работы над "амбициозным проектом". Некоторые предположили, что это может быть ИИ-проект одного из наших финтех-гигантов.
Смотрите также:
· Как заставить нейросети работать на вас: 4 неочевидных совета
· Квантовый компьютер за 24 млрд рублей. Что это и кому нужно?
· Искусственный интеллект: есть ли будущее у человечества?