Крупные языковые модели становятся жертвами собственной универсальности. Google убрал пиксельную сегментацию изображений из Gemini, OpenAI прекратил поддержку GPT-3 и нескольких версий GPT-4, Anthropic закрыл Claude 2.0 и 2.1.
Проблема в ограниченном бюджете на обучение. Когда ресурсы тратят на развитие способностей к рассуждению и программированию, страдают узкоспециализированные функции. Компании сознательно идут на этот компромисс, считая универсальность приоритетом.
Кто страдает от деградации
Особенно болезненно это сказывается на обработке документов. Точность OCR для нестандартных случаев падает — счета-фактуры, лабораторные отчёты, страховые заявления распознаются хуже, чем в предыдущих версиях.
Разработчики корпоративных решений сталкиваются с неожиданными проблемами. Обновление модели может сломать работающий пайплайн, если он зависел от удалённой функции.
Альтернатива — специализированные модели
Решение — узкоспециализированные модели. Они не умеют писать код или философствовать, зато идеально распознают конкретные типы документов. И делают это стабильно, без риска деградации после обновлений.
Тренд указывает на разделение рынка: универсальные frontier-модели для широких задач и специализированные fine-tuned решения для индустриальных процессов.
The post Большие языковые модели теряют специализацию ради универсальности appeared first on itech-news.