Источник: Nuances of Programming Введение Знакомство с машинным обучением часто начинается с линейной регрессии  —  одного из самых простых алгоритмов. Однако эта модель быстро раскрывает свои недостатки, особенно при работе с наборами данных, которые требуют перестройки моделей. Основные решения этой проблемы  —  ридж- и лассо-регрессии. Дилемма смещения-дисперсии Чтобы понять, зачем нужны эти методы, обсудим дилемму смещения-дисперсии. В контролируемой среде у модели может быть два основных источника ошибок...

В сентябре 2025 года на сайте fi-le.net появился, пожалуй, самый интересный анализ открытых весов в истории искусственного интеллекта. Исследователь под ником Lennart Finke показал, что из открытой модели GPT-OSS— аналога GPT-5 с открытым исходным кодом — можно восстановить следы реальных данных, на которых обучались закрытые модели OpenAI. И результаты оказались неожиданными: внутри embedding-матрицы нашли токены, явно взятые с взрослых сайтов, китайских националистических форумов и даже GitHub-репозиториев...