Работа с Harness
Модели и расходы
Выбор моделей, ставки, общий бюджет операции и полнота расчёта стоимости.
Выбор модели
Модели можно менять для разных ролей агента и сравнивать по качеству результата, времени выполнения и расходам. Настройки применяются после публикации.
Ставки доступны на странице тарифов и в каталоге моделей Console. Публичная таблица показывает рубли по фиксированному курсу 1 $ = 100 ₽. Тарифы и расчёты вызовов в Harness сохраняются в валюте каталога.
Как считается стоимость
Harness использует счётчики токенов, которые удалось получить от провайдера, и тарифы, закреплённые за вызовом. Учитываются вход, выход, операции с кэшем и оплачиваемые инструменты, если для них есть данные.
Сумма включает отдельные физические попытки и повторные обращения. Стоимость решения может складываться из нескольких агентов и связанных заданий. Расчётная сумма по токенам и тарифам не является выпиской о списании у провайдера.
Бюджет операции
Бюджет относится ко всей операции, включая дочерние задания и повторные вызовы. Перед потенциально платным действием Harness проверяет доступный остаток и резервирует расходы.
Если данных для расчёта недостаточно, резерв нельзя считать свободными средствами. Возобновление или изменение бюджета выполняется с учётом состояния операции и прав пользователя.
Если стоимость неполная
Сумма показывает только учтённую часть. Под ней указан агент и модель, для которых расчёт не завершён. Неизвестная стоимость не означает нулевые расходы.
Возможные причины: обрыв ответа, недоступные счётчики токенов или отсутствующая ставка. Откройте детали физической попытки и сохраните идентификаторы запроса для проверки.
Повторный запрос к модели создаёт новую попытку с возможной новой оплатой. Он не восстанавливает счётчики старого вызова. Подробнее — диагностика неполной стоимости.