Трансляция Techsparks и прочая отсебятина

:)))

Гугл снова взялся за ноутбук, теперь под брендом 'Googlebook' — причем выпускать их будут и проверенные партнеры типа Asus и Lenovo. В продаже они появятся только осенью и интересно будет посмотреть, как на практике выглядит ноутбук от тех, кто в ИИ действительно понимает и имеет свою крутую линейку продуктов — а не просто лепит этикетку “ИИ” из маркетинговых соображений https://www...

Возможность нормально разговаривать с хорошей моделью требует неких танцев с бубном (обычно в форме Eleven Labs); когда в прошлом году мы затеяли на YAC/e живой разговор людей и Клауса (который помогает студентов учить и ведет с ними семинары) — намучились, чтобы все было живо и быстро, безо всяких пауз. В посте по ссылке авторы мягко называют эту конструкцию external scaffolding. И вот именно его решили избежать, подход хорош: We think interactivity should scale alongside intelligence; the way we work with AI should not be treated as an afterthought. И утверждают, что цели своей добились, модель...

🙂 Они выпустили очередное исследование неподобающего поведения моделей — и в нем вполне нетривиальны и результаты, и выводы. Казалось бы, соображение “что заложили, то и получили” давно известно, но исследователи поглубже копнули причины иногда возникающего агрессивно-негативного поведения моделей в специально спроектированных тестах. Оказалось, что из двух гипотез: 1. В ходе post-training ошибочно поощряется неправильное поведение 2. Причина безобразий кроется в изначальном обучении, и post-training оказывается неспособен кардинально переучить модель — верна вторая. Оказалось, что традиционный RLHF в виде чата с человеком-тренером уже недостаточен для агентских моделей...

— загадка и тайна. Но в повседневной жизни и, что хуже, в бизнесе все для многих кажется очень линейным. И приводит к дорогим ошибкам — примеры копятся столетиями, но почему-то это слабо помогает. Сейчас, как всегда во времена крутых изменений, всякие линейные прогнозы особенно странны и неуместны. Вот про это как раз очередная моя колонка в Forbes https://www...