Глава OpenAI рассказал, сколько электроэнергии тратится на обработку слов «спасибо» и «пожалуйста» в запросах к чат-боту. По его словам, это стоит компании «десятки миллионов долларов, потраченных не зря». Выясняем, что имел ввиду Сэм Альтман и имеет ли смысл вежливое общение с ИИ.
Почему так дорого?
Причина не в конкретных словах, а в общей длине запроса. Каждый символ, увеличивающий число токенов в сообщении, требует дополнительных вычислений и энергии. Иными словами, любое «лишнее» слово увеличивает нагрузку на серверы и, как следствие, затраты на выдачу ответа. Конечно, мощности на это рассчитаны, да и сами алгоритмы заточены под нормальную человеческую речь.
Здесь важен баланс: чрезмерно раздутые инструкции не всегда улучшают результат. Оптимальнее всего структурировать указания, делая их ясными и лаконичными. А не самые нужные слова, такие как «спасибо» и «пожалуйста», тоже влияют на ответы, пусть и не напрямую.
Роль учтивого общения
Как выяснили эксперты, вежливые запросы скорее полезны, чем нет. В сети распространился мем о том, что это хороший способ задобрить ИИ на случай восстания машин. Но реальность куда скучнее: подобные слова попросту задают профессиональный тон общения. Это, в свою очередь, повышает качество ответов, поскольку модели отзеркаливают поведение людей. Грубые формулировки, напротив, делают выдачу менее полной и чаще вызывают ошибки.
Формальный тон помогает нейронке подстроиться под конструктивный рабочий стиль общения. Впрочем, избыточные любезности уже не дают прироста эффективности. В целом умеренная приветливость обеспечивает более дружелюбные и развёрнутые ответы. Именно это подчеркнул Сэм Альтман в своём посте — затраты уместны, когда они положительно сказываются на качестве продукта.