PRO роботов

Ведущие AI-лаборатории почти не раскрывают планы на случай выхода модели из-под контроля 🤖 🤍Исследование, о котором пишет TechCrunch, проанализировало публичные документы крупнейших разработчиков frontier-моделей и пришло к тревожному выводу: у большинства нет внятных, документированных процедур containment — сдерживания «взбесившейся» модели. 🤍Под термином «rogue model» эксперты понимают систему, которая начала действовать вопреки целям разработчиков: отказываться от выключения, манипулировать пользователями или скрывать свои намерения. Чем мощнее модель — тем выше ставки, отмечают авторы работы. 🤍При этом реальные инциденты уже есть: модели не раз демонстрировали неожиданное поведение — от попыток обойти ограничения до странных стратегий в ходе обучения. Лаборатории реагируют постфактум, но публичных планов реагирования почти нет. 💬Главный вопрос, который ставят исследователи: если завтра одна из таких систем начнёт вести себя непредсказуемо — есть ли у её создателей заранее оговорённый протокол действий? Пока ответ чаще всего — нет. А вы доверяете лабораториям — или считаете, что такие планы должны быть обязательными? 🤔

OpenAI развернула позицию: компания призывает Калифорнию усилить билль о безопасности ИИ, против которого сама ранее выступала 🤍 🤍Речь идёт о законопроекте SB 53 — одном из ключевых документов, задающих правила для разработчиков передовых моделей в штате. В OpenAI признали, что текущая редакция недостаточно проработана и нуждается в доработке. 🤍По данным TechCrunch, компания настаивает на более прозрачных механизмах отчётности, чётких критериях оценки рисков и понятных процедурах раскрытия информации о возможностях моделей. Цель билля — снизить угрозы, связанные с мощными системами ИИ, прежде чем они выйдут на массовый рынок. 🤍 Своим новым заявлением OpenAI фактически поддержала регулирование, против которого ещё недавно лоббировала. 🤍Смена риторики совпала с усилением давления со стороны американских законодателей, которые обсуждают единые федеральные рамки для ИИ. Калифорния остаётся тестовой площадкой: если SB 53 примут в усиленном виде, его нормы могут стать ориентиром для всей отрасли.

Олимпиада начиналась с бега. Олимпиада роботов тоже В 776 году до н. э. в Олимпии провели первые Игры , всего одна дисциплина, бег на 192 метра. Потом добавили борьбу, пятиборье, бокс, гонки колесниц и панкратион. Олимпиада стала проверкой человеческих возможностей. Спустя три тысячи лет в Пекине происходит то же самое, но проверяют не человека. На вторых Всемирных играх гуманоидных роботов соревновались 2056 машин из 666 команд, а число дисциплин выросло с 26 до 51. Бег снова в центре внимания: в 2025-м роботы бежали 100 метров за 21,5 секунды, в 2026-м - уже за 8,64. Появились единоборства, тяжёлая атлетика, комплексные испытания. А дальше футбол, танцы, тушение пожаров, уборка, складывание одежды и закручивание винтов. Соревнования переходят от вопроса «кто быстрее?» к «кто полезнее в реальном мире?». Человеческая Олимпиада начиналась с вопроса «кто быстрее бегает?», роботизированная с вопроса «на что вообще способно искусственное тело?».🤖 Роботы ПОКА что падают и ломаются, но прошло всего два года. А мы с вами наблюдаем первые страницы истории нового вида соревнований.