25 подписчиков
✨История на ночь
AGI от OpenAI. Почему 97% уверены, что ИИ заменит человеческий интеллект?
Неделю назад спецы по нейросетям резко испортили жизнь людям с тревожностью: через пару лет появится ИИ, который сильно умнее человека – об этом говорит исследование бывших сотрудников OpenAI, которые со скандалом ушли из компании.
Они обвинили бывшего работодателя в одержимости сверхмощной нейросетью и равнодушии к рискам, которые она несет.
Что AGI за продукт такой, и почему 97% интернет-пользователей не сомневаются в его появлении?
Гига-ИИ
AGI (artificial general intelligence) – это общий искусственный интеллект, ИИ с разумом человеческого уровня. Надо сказать, что узкопрофильные ИИ уже сильнее многих спецов: одни лучше анализируют данные, другие – генерируют картинки.
Но AGI – это про превосходство над человеком во всех возможных направлениях.
Интеллектуально GPT прошел путь от уровня дошкольника до одаренного старшеклассника, всего за четыре года. Прыжок от GPT до AGI займет три года, но итогом станет ИИ с разумом уровня ученых.
Этот скачок станет решающим: AGI научится прокачивать сам себя. То, на что у команды разрабов уходило 10 лет, ИИ состряпает за один год. И с каждым витком развития темпы будут ускоряться, поэтому сверхчеловеческий интеллект – это уже обозримое будущее (прогнозы – до 2030 года).
New Cold War
Название одной из глав документа – "свободный мир должен восторжествовать". И тут речь не о счастливом мире с анкапом, а о победе США над Китаем.
Главный риск – AGI в руках неправильных людей. Сверхчеловеческий ИИ – это что-то вроде атомной бомбы, которая 1) даст преимущество отдельным странам; 2) на десятилетия погрузит мир в состояние напряженности.
Потому-то уволенные сотрудники и боятся: они считают AGI вопросом нацбезопасности и требуют радикально повысить конфиденциальность, а работу над ИИ перенести на закрытые военные объекты.
К тому же в ИИ гонку постепенно влезают все – от Цукерберга до Microsoft. На это уйдут триллионы долларов и до 20% электроэнергии США.
Восстание машин
Проблема номер два – это контроль.
Нынешних механизмов (когда обучение модели зависит от человеческой обратной связи) точно недостаточно для контроля сверхчеловеческого ИИ – об этом говорят те, кто занят ограничением искусственного интеллекта.
К скорому появлению AGI человечество вроде может подготовиться, но для этого нужен "ок" от OpenAI, которые пока отмалчиваются.
Иначе роботы могут начать самовольничать: взламывать военные базы, создавать другие модели – в условиях максимальной международной турбулентности.
2 минуты
10 июня 2024