生成AIのトークンコストは、なぜ日本企業の予算サイクルと噛み合わないのか

なぜ「◯選」記事ではトークンコストの予算問題に答えられないのか

AIコスト最適化 トークンで検索すると、上位に並ぶのはプロンプトキャッシュ・バッチ処理・モデル使い分けといった実装テクニックを列挙する「7つの方法」型の記事ばかりだ。中小のSIerや受託開発会社のオウンドメディアが多くを占め、エンジニアが明日から使えるHowToとしては有用でも、経営層や情シス責任者が本当に知りたい問い、すなわち「このコストをいつ・どう予算に織り込むか」には一切答えていない。

トークンコストの最適化は、突き詰めればエンジニアリングの実装課題ではなく、稟議と予算サイクルの設計課題である。海外の元記事を起点に、この論点を経営の意思決定として捉え直したい。

海外の値下げ発表・決算開示は何を意味するか

コンピュート容量の経済性を考えるうえで示唆的なのが、Microsoft と OpenAI の契約再編をめぐる事実だ。AI の計算資源はどの事業に配分すべきか — SpaceX 10GW 計画と Microsoft の容量配分のねじれに学ぶで取り上げたとおり、Microsoft は自社のGPU容量をOpenAI向けに割り当てた場合と、Foundryやアプリケーション事業向けに割り当てた場合とで、1MWあたりの年間収益に約7倍の差(約1400万ドル/MW/年 対 約1億ドル/MW/年)が生じていた。2025年10月に結んだ2500億ドル規模のインフラ契約で約7GWもの容量を長期コミットした結果、最も稼げる自社事業のほうが容量不足に陥り、2026年4月の再交渉で収益シェア条項を外すという形で修正を迫られている。

これは単なるインフラ企業の話ではない。推論トークンの提供は極めて高利益率のビジネスであり、同じ「AI予算」という括りの中でも、どの用途に割り当てるかで得られるリターンは桁違いに変わるという事実を、業界最大手の再交渉が証明している。

もう一つの元記事が示すのは、モデル選定そのものがコスト構造を左右するという事実だ。Claude Opus 5 は業務導入に値するか——プロンプト資産を積み上げた環境ほど性能が落ちる評価結果が報告しているのは、Opus 5 は複雑なシステムプロンプト・スキル・プラグインを積み上げた環境ほど性能が落ち、逆にシンプルな環境では性能が跳ね上がるという観察だ。つまり同じモデル・同じ料金体系でも、既存のプロンプト設計やツール連携が最適化されていない組織は、同じ成果を得るために余分なトークンを消費し続けている。トークン単価だけを見て「安いモデルに切り替えれば最適化できた」と判断するのは早計であり、モデル更新のたびにワークフロー側の複雑度を見直さない限り、コストは静かに膨らみ続ける。

この構造を裏付ける実録が2026年8月に出てきた。AI 利用コストの予算管理はどうすべきか ― 支出230%増でもトークン予算を設けない Every の判断基準で取り上げた米メディア Every の事例では、OpenAI クレジットの消費が2.5倍に膨らみ、新モデルのテスト時にはわずか12時間で月間予算を使い切った。それでも同社は支出上限による統制を選ばず、決済カードの利用枠という止血点と全社員が見られる利用ダッシュボードだけを固定し、月間3万ドル超の支出を容認している。象徴的なのは、同じ480ドルの支出でも、プロダクトの権限基盤を構築した1件は是とされ、SlackとメールをAIに15分おきに確認させただけの1件は当日中に見直された点だ。判定基準は金額ではなく「何を得たか・何を学んだか」であり、事前の予算枠という静的な統制では捉えられない。さらにAI エージェントでエンジニアチームを何人分置き換えられるか ― Codex カスタムエージェントによる「1人企業」の実例が報告するとおり、Codex のカスタムエージェント群を1人で統括し、通常4ヶ月かかるカンファレンス企画を3週間で仕上げる運用がすでに現実になっている。トークン消費は増える一方で、その増分が人件費換算で何を代替したかを測れる組織だけが「高い支出」と「無駄な支出」を区別できる。

稟議・予算サイクルにいつ・何を反映すべきか

これらの事実から日本企業の予算判断に持ち帰るべき論点は1つに絞れる。AI予算を年度初めに一括で確保し、年間固定の枠として運用する稟議の組み方そのものが、コンピュート経済性の実態と噛み合っていないということだ。

Microsoft の事例が示すのは、AI関連の計算資源・トークン予算は用途別の収益性で並べ替え、四半期ごとに再配分を決める会議体を持つべきだという教訓だった。日本企業の多くは年度予算の枠内でAI関連コストを一括管理し、部署ごとの既得権や契約の古さで予算を固定してしまいがちだが、これでは高収益な用途への機動的な再配分ができない。加えて Opus 5 の事例が示すように、モデルを切り替えるたびに既存のプロンプト・スキル資産のパフォーマンスを検証しなければ、料金表上の値下げが実際のコスト削減に直結しない。特に社内で稼働を広げるAIエージェントはループ処理や自律的なタスク実行によってトークン消費量が読みにくく急増しやすいため、エージェント単位でのコスト管理を切り分けて予算プロセスに組み込まなければ、四半期ごとの再配分の議論自体が土台を欠いたものになる。

したがって稟議・予算サイクルに反映すべきは、(1) AI関連予算を年間固定枠ではなく四半期単位の見直し対象として設計し直すこと、(2) モデル更新のタイミングを予算申請プロセスに組み込み、更新前後でワークフローの再検証を必須項目にすること、の2点だ。どちらも「実装で解決する」問題ではなく、予算プロセスの設計変更として経営が意思決定すべき事項である。

折しも3月期決算企業の多くは、9〜10月に下期予算の編成期を迎える。Every の実録が示すように、AIコストは新モデルの登場を境に2倍超のスケールで動く。下期のAI予算を上期実績の延長線で置くのではなく、この編成タイミングで「四半期見直し条項」と「支出の妥当性を判定する問い(何にかかったか・何を得たか・何を学んだか)」を予算文書に明記できるかが、来期の機動力を分ける。

まとめ:コスト最適化は実装ではなく予算判断の問題

日本語トークンのコスト構造は英語圏とは異なる特性を持つが、それ以上に重要なのは、コンピュート容量の収益性もモデルの実効コストも、四半期単位で変動し続けるという事実だ。「◯選」記事が提示する実装テクニックは、この変動を吸収する仕組みが予算プロセス側にあって初めて効いてくる。稟議のタイミングと単位そのものを見直すことが、AIコスト最適化の出発点になる。