開発実践ガイド

LLM APIの料金をどう見積もる?入力・出力・cache・再試行を分ける

LLM APIの料金をどう見積もる? — 入力・出力・cache・再試行を分ける
目次

結論

月額API費は平均token数×request数だけで出さず、input/output/cache、p50/p95の長いrequest、retry、失敗、ツール callを分け、成功1件あたり原価で見積もります。

まずこの表で判断する

月額 ≒ Σ(request × input × input単価 + request × output × output単価 + cache/retry/media費)

Bucket p50 p95 件数/月 Retry率 月額
short chat 実測 実測 実測 実測 計算
long doc 実測 実測 実測 実測 計算
agent 実測 実測 実測 実測 計算

この判断表は、未測定の数字をそれらしく埋めるための表ではありません。価格・性能・品質など実測が必要なセルは、公式一次情報または自分の観測値だけで更新してください。

選び方・進め方

1. 判断ポイント

system promptと会話履歴もinputです。長期chatでは新規user文よりhistoryの方が大きくなる場合があります。

2. 判断ポイント

cache対応でも共通prefix再利用率や有効条件を満たしたhitだけを別単価で計算します。

3. 判断ポイント

最終的にはrequest単価ではなく合格output1件の総額を見ます。安いmodelでもretry/human correctionが多ければ逆転します。

実行前チェック

  • 実ログtoken分布
  • input/output分離
  • cache hit/miss
  • retry加算
  • pricing 確認日時

迷ったときの優先順位

最初に不可逆な条件を確認します。契約・権限・必要メモリ・物理互換・商用権利など、後から簡単に直せない条件を先に落とし、その後に価格や操作感を比較します。逆に、価格や画面の好みから選び始めると、導入後に「そもそも要件を満たせない」状態になりやすくなります。

まとめ

  • 月額API費は平均token数×request数だけで出さず、input/output/cache、p50/p95の長いrequest、retry、失敗、ツール callを分け、成功1件あたり原価で見積もります。
同じテーマから

サイト内検索