Как считается стоимость запроса

Токены, кеш, резерв баланса и что видно в профиле.

Цена указана в долларах за 1 миллион токенов отдельно для входа, выхода и кеша. Вход — это всё, что вы отправили модели, выход — то, что она сгенерировала.

Кеш дешевле обычного входа: если в начале нового запроса повторяется тот же контекст, часть токенов считается по цене кеша. Редакторы кода часто отправляют один и тот же контекст снова и снова, поэтому кеш заметно снижает счёт.

Перед запросом на балансе временно резервируется сумма под максимально возможный ответ. После ответа списывается только фактическая стоимость, остаток резерва возвращается. Поэтому запрос может вернуть 402, даже если денег на небольшой ответ хватило бы: пополните баланс чуть больше.

Статистику запросов и потраченную сумму видно в профиле бота.