ホーム / 順位 #6

出力長のコントロール

想定削減率出力トークン費用の20〜60%
導入コスト低 — プロンプトとmax_tokensの変更のみ

出力トークンは入力トークンの3〜8倍の価格です(中央値で約4:1)。冗長な回答、頼んでいない解説、繰り返しの定型文は、すべてこの割高なレートで課金されます。モデルに言わせる量を絞ることは、最も手軽に得られるコスト削減のひとつです。

構造化出力(JSONスキーマ)、プロンプトでの明示的な文字数指定、max_tokensによるハードキャップにより、機械が読み取るレスポンスであれば品質を一切落とさずに出力費用を20〜60%削減できるのが一般的です。

実践手順

  1. 寛大なデフォルト値のまま放置せず、エンドポイントごとにmax_tokensを意図的に設定します。
  2. 機械が読み取るレスポンスには構造化出力/JSONモードを使用します — スキーマが冗長な文章の水増しを排除します。
  3. プロンプトで簡潔さを明示的に指示します(「1文で回答」「前置き不要」など)。
  4. 推論過程を見せる必要がない場合は、最終出力からチェーン・オブ・ソートを取り除きます。

よくある質問

なぜ出力トークンの方が高いのですか?

生成は逐次的で、出力トークン1つごとにフルの順伝播計算が必要な一方、入力トークンは並列処理されます。プロバイダはこの計算量の非対称性をトークン単価にそのまま反映しています。

次の手法: #7 コンテキスト管理とトークン節約