Думаю, многие знают, что любая операция через ИИ-модель - стоит денег.
Даже если она развернута у вас на серверах. Это можно посчитать через время, стоимость оборудования, стоимость электроэнергии, поддержку и пр.
И понятно, что если вы автоматизируете процесс, где много операций, то хочется экономить.
Авито это решила следующим образом:
🟣Если вы обратитесь в техничекую поддержку, то вас встретит дешевая модель. Которая быстро проконсультирует по несложным вопросам.
🟣Если вы просите позвать оператора, то подключается более дорогая модель и консультирует вас.
🟣Если вы все же поймете, что это не оператор и еще раз об этом скажете, то модель вначале поспорит с вами, потом подключит уже живого человека.
Такая каскадная модель позволяет распределять более сложные запросы на более дорогое решение.
Но с другой стороны - они обманывают людей 😔
Автор: Александр Пашин
———