Найти тему
1122 подписчика

Смотрите, почему мы подняли свою ИИ, а не покупаем доступ на рынке в виде облачного сервиса.


На картинке обработка одного набора отзывов для одной компании. Ушло ~7000 токенов на запрос... ИИ получила на вход отзывы клиентов и выдала некое обобщение. Простая, по сути, задача.

На рынке услуг 1 млн. токенов можно купить за 1$ (я чуть округлил в большую сторону, для простоты расчета). И наш вот простой запрос выше обошелся бы 0.007$ или 0.7 руб. Такие запросы мы делаем нон-стоп в процессе создания баз компаний. В секунду получается порядка 3х. То есть, ~2 руб. в секунду мы тратим.

В одном месяце, учитывая что месяц имеет 30 дней, 28 дней, 27 дней, 30 дней, 31 день в зависимости от года, в среднем за месяц проходит 730 часов. Так как 1 час = 3600 секунд, то за месяц проходит 730 * 3600 = 2,626,000 секунд

Дальше думаю продолжать не нужно :) 2.6 млн. секунд * 2 рубля = дохуа :)

Можно найти дешевую ИИ, которая будет стоить не 1$ за 1 млн. токенов, а скажем 0.3$ за 1 млн. токенов. Тогда итоговая цена в месяц активного использования будет ~1 млн. руб. (на три поделите и все).

Смотрите, почему мы подняли свою ИИ, а не покупаем доступ на рынке в виде облачного сервиса.  На картинке обработка одного набора отзывов для одной компании. Ушло ~7000 токенов на запрос...
Около минуты