Современные языковые модели, такие как GPT, Claude или DeepSeek, научились не просто отвечать на вопросы, но и рассуждать перед тем, как дать окончательный ответ. Это направление получило название Large Reasoning Models (LRMs) — модели с развитым механизмом «мышления». Однако, как показало новое исследование, за впечатляющими результатами скрываются серьёзные ограничения: при росте сложности задач эти системы внезапно «ломаются». Учёные из Apple предложили новый способ оценки ИИ — они заменили привычные...
Полиматия
Нейропластичность в искусственном интеллекте
ИИ достиг впечатляющих высот благодаря нейронным сетям, изначально вдохновленным структурой человеческого мозга. Однако ключевые биологические процессы, такие как нейрогенез (образование новых нейронов), нейроапоптоз (удаление ненужных нейронов) и нейропластичность (способность мозга перестраивать связи), долгое время игнорировались в архитектурах ИИ. В статье «Нейропластичность в искусственном интеллекте» авторы Юпей Ли, Мануэль Миллинг и Бьорн Шуллер исследуют, как эти процессы могут вдохновить новые подходы к созданию адаптивных нейронных сетей...
Как языковые модели учатся думать
Исследование "Rethinking Reflection in Pre-Training", подготовленное командой Essential AI, делает важный вклад в понимание того, как у языковых моделей развивается способность к саморефлексии — то есть осознанию и корректировке собственных ошибок. Авторы утверждают, что эта способность начинает проявляться не только во время постобучения (например, через обучение с подкреплением), но и значительно раньше — уже на этапе предобучения. Чтобы подтвердить эту гипотезу, исследователи разработали новый...
Как новые знания искажают поведение ИИ
Исследование команды Google DeepMind раскрывает важный, но до сих пор малоизученный феномен: как новые знания, полученные языковыми моделями, могут непредсказуемо повлиять на уже усвоенные данные. Авторы обнаружили, что даже единичные новые факты, усвоенные в процессе обучения, могут вызывать так называемый эффект «прайминга» — когда модель начинает использовать это знание в несвязанных контекстах, что может привести к галлюцинациям. Чтобы системно исследовать этот эффект, был создан специальный...
Демис Хассабис о сознании у ИИ
В интервью для программы «60 минут» на CBS, генеральный директор DeepMind Демис Хассабис поделился своими взглядами на текущее состояние и будущее ИИ. Он подчеркнул, что, несмотря на впечатляющие достижения в области ИИ, современные модели, включая те, что разработаны DeepMind, не обладают сознанием или самосознанием. Хассабис отметил, что современные ИИ-системы, такие как AlphaFold, уже продемонстрировали значительный потенциал, предсказывая структуры белков и способствуя прогрессу в биомедицинских исследованиях...
Эра опыта: искусственный интеллект будет учиться у мира
ИИ вступает в новую эпоху, где машины будут учиться не только на человеческих данных, но и на собственном опыте взаимодействия с окружающим миром. В статье Дэвида Сильвера и Ричарда Саттона «Эра опыта» описывается, как ИИ, основанный на опыте, может превзойти человеческие способности, открывая новые горизонты в науке, медицине и технологиях. Этот переход обещает революцию, но также ставит перед человечеством новые вызовы. Современные ИИ-системы, такие как большие языковые модели, достигли впечатляющих результатов, обучаясь на огромных массивах текстов, созданных людьми...
