Полная адаптация — это про Apple
Компания провела исследование, в котором выявила, что большие языковые модели склонны «думать» по-английски, даже когда генерируют текст на других языках. Это приводит к тому, что ответы звучат неестественно, с английскими грамматическими и лексическими шаблонами. Проблема есть даже у полностью китайских нейросетей — парадоксально, но они тоже мыслят по-английски.
Apple же по силам решить и это — методом обучения с использованием обратного перевода. Принцип работы прост: берут естественные тексты, переводят их на английский, а затем обратно, получая «переводческий» вариант с характерными ошибками. Модель обучается различать и отдавать предпочтение более естественным формулировкам. Результат — улучшение качества текста без потери производительности на стандартных тестах.
Apple делает первый шаг к более естественным, многоязычным и не англоцентричным ИИ. Скорее всего, наработками Apple будут вновь пользоваться все крупные ИИ-компании.
