Разработчики чат-ботов начали массово применять специализированный инструмент Caveman, который заставляет искусственный интеллект генерировать максимально краткие ответы, имитирующие стиль речи «пещерного человека». Как сообщает 404 Media, использование Caveman стало реакцией бизнеса на стремительный рост расходов на токены и необходимость жёсткого контроля бюджетов. Инструмент был создан разработчиком Джулиусом Брюсси (Julius Brussee), который обратил внимание на то, что значительная часть бюджета компаний расходуется на ненужную «болтливость» языковых моделей. Caveman удаляет из ответов чат-ботов слова-связки, приветствия и вводные конструкции, оставляя только суть, например программный код, команды, URL-адреса и технические детали. По результатам тестов использование плагина в Claude и Codex позволяет сократить количество генерируемых токенов на 65–75 %, предлагая пользователям несколько уровней сжатия текста. Брюсси подтвердил, что его разработкой уже пользуются сотрудники OpenAI,
ИИ научили говорить как пещерный человек — чтобы экономить миллионы на токенах
30 июня30 июн
57
2 мин