21 подписчик
👊 Бунты в OpenAI
Пока компания анонсирует новую версию Chat GPT, из неё уходят ключевые сотрудники.
Например, компанию покидают соучредитель Илья Суцкевер и глава команды по безопасности AGI Ян Лейке. Причина — недостаточный контроль над безопасностью сверхразумного ИИ, который находится в разработке.
Вот несколько тезисов Лейке:
🟣Важно как можно скорее выяснить, как контролировать ИИ, который намного умнее нас.
🟣 Команда Яна с трудом получила только 20% мощностей для необходимых исследований, после чего результаты их работы передали другой команде.
🟣 Создание машин, которые умнее человека, опасно. OpenAI берёт на себя огромную ответственность от имени всего человечества
🟣 Безопасность отошла на второй план. Ян долго не соглашался с руководством OpenAI по поводу приоритетов компании, пока не наступил переломный момент.
И всё это несмотря на подписанные NDA. То есть бунтовщики точно потеряют свои акции OpenAI.
Кстати, это Суцкевер устроил переворот, чтобы отстранить Альтмана от управления OpenAI. Но бунт провалился. И думается мне, что в страх за человечество подмешалась простая обида…
Около минуты
27 мая 2024