目次
AIエージェントの本番化を止める要因として、この1年で語られてきたのは品質・権限・ガバナンスだった。出力が業務水準に届かない、権限をどこまで渡すか決められない、証跡が残らない——いずれも実在する障害であり、多くの企業がここに手をつけ始めている。
だが2026年に入って、それらとは別の場所で本番化が止まり始めている。動かす費用ではなく、動いているところを見張る費用である。
Omdia が Apica の委託で実施した企業IT意思決定者300名超（北米・西欧、2026年6月公表）の調査によれば、エージェント型AIの観測コストが自社の計算（compute）コストを上回っていると答えた企業は69%。そして、監視コストが高すぎることを理由に、エージェント導入をすでに中止または延期した企業は59%にのぼる。
推論の単価はこの1年で下がり続けた。にもかかわらず、AIを本番で回す総費用の内訳は、いつの間にか「見張る側」に傾いている。
推論を安くしたら、見張る費用が残った
観測コストが推論コストを追い越したことを示す図。Omdia／Apica調査（2026年6月公表、企業IT意思決定者300名超、北米・西欧）より。コストの逆転として、エージェント型AIの観測コストが自社の計算コストを上回ると答えた企業が69%。観測支出は年平均約317万ドルで前年比プラス28%、81%がより安い代替を探している。すでに止まっている事例として、監視コストが高すぎることを理由にエージェント導入を中止または延期した企業が59%。83%がAI観測を2026年の最優先事項に挙げており、優先度は最高であるにもかかわらず費用を理由に止まっている。テレメトリ量の増加見通しは、直近12ヶ月の実績が平均3.7倍、今後2年の見通しが平均9.5倍で44%が6倍から100倍と回答。97%がテレメトリパイプラインを導入済みまたは検討中で、70%は6ヶ月以内に評価予定。推論の単価は下がり続けているが総額は下がらず、単価の下落はエージェントの呼び出し回数の増加に飲み込まれ、増えた分だけ観測対象が増える。なお、この調査はテレメトリパイプライン事業者の委託調査であり課題を強調する方向にバイアスがかかる前提で読む必要がある
同調査の数字を並べると、この現象の形が見えてくる。
- 83% が「AIの観測（observability）」を2026年の最優先事項に挙げている
- 69% がエージェント型AIの観測コストは計算コストを上回っていると回答
- 観測への支出は年平均 約317万ドル、前年比 +28%
- 直近12ヶ月でテレメトリ量は平均 3.7倍、今後2年の見通しは平均 9.5倍（44%が「6倍〜100倍」と回答）
- 59% が、監視コストを理由にエージェント導入を中止または延期
- 97% がテレメトリパイプラインを導入済みまたは検討中、81% がより安い代替を探している
ひとつ、読み方の注意を先に置いておく。この調査はテレメトリパイプライン事業者である Apica の委託調査であり、「テレメトリが手に負えなくなっている」という結論に向かうバイアスが構造的にかかっている。数字そのものより、「監視コストを理由に導入を止めた」という選択肢が成立してしまう状況のほうに意味がある。
なぜこうなるのか。推論の単価は確かに下がっている。だが単価の下落は、エージェントが1タスクで行う呼び出し回数の増加に飲み込まれる。そして重要なのはその先で、呼び出しが増えた分だけ、記録すべき対象も同じ倍率で増える。単価が半分になって呼び出しが3倍になれば、推論費は1.5倍で済むが、観測対象は3倍になる。
これは「AIの費用が高い」という話ではない。費用の構造が、稟議で見積もった内訳と違う形になっているという話である。多くの企業がPoCの予算を組むとき、推論費・開発費・ライセンス費は積算する。観測費は、既存の監視ツールの延長として扱われ、独立した行に立っていないことが多い。
なぜエージェントはログを桁で膨らませるのか
従来のWebアプリとAIエージェントで1件あたりに発生する記録の量が桁で違うことを示す図。従来のWebアプリでは1リクエストあたり数個から十数個のスパンが発生し、記録するのは主にメタデータ（時間・ステータス・SQL・エラー）で、量は処理件数にほぼ比例する。AIエージェントでは1タスクあたりworkflow、agent、tool、modelの入れ子スパンが数十から数百発生し、加えて入出力本文や推論過程を保存すると1スパンあたりのサイズも数十から数百倍になる。無料枠の例として、Datadog Agent Observabilityは既存顧客向けに月間40,000 LLMスパンまで無償だが、1タスク30スパンの設計なら月あたり約1,300タスクで枠に到達する。部署で1日50件の業務をひとつ本番化しただけで無償枠の外側に出る規模になる。また、本文を残すかは費用だけの問題ではなく、入出力の本文を保存するとそこに個人データ・顧客情報・機密が入り込み、観測基盤そのものがアクセス制御・保持期間・越境移転の統制対象になる。費用を理由に本文を落とすと後から判断根拠を再現できなくなる。標準もまだ固まりきっておらず、OpenTelemetryのGenAI規約はagent/workflow/tool/modelのスパンを定義済みだがgen_ai.*属性の多くはDevelopment段階で名称変更がありうる
従来のWebアプリケーションの監視は、おおむね「1リクエスト＝1トレース、数個〜十数個のスパン」という前提で設計されている。記録されるのは時間・ステータス・クエリ・エラーといったメタデータで、データ量は処理件数にほぼ比例する。
エージェントでは、この前提が二重に崩れる。
第一に、1件あたりのスパン数が増える。 OpenTelemetry の GenAI セマンティック規約は、いま `agent`・`workflow`・`tool`・`model` という階層のスパンを定義している。1つのタスクが複数のサブエージェントに分かれ、それぞれが複数回のモデル呼び出しと複数のツール呼び出しを行えば、スパンは容易に数十〜数百に達する。
第二に、1スパンあたりのサイズが増える。 従来の監視で保存していたのはメタデータだったが、エージェントで後から役に立つのは入出力の本文と推論の過程である。「なぜこの判断をしたのか」を再現するには、プロンプト・レスポンス・ツールへの引数と戻り値が要る。ここを保存するかどうかで、データ量は桁で変わる。
数字にすると分かりやすい。Datadog の Agent Observability は、既存顧客向けに月間40,000 LLMスパンまで無償という枠を置いている。1タスクあたり30スパンという控えめな設計でも、月に約1,300タスクで枠に到達する。1日50件の業務をひとつ本番化しただけで、無償枠の外側に出る規模である。
そしてもうひとつ、費用とは別の問題がここに乗ってくる。入出力の本文を保存するということは、個人データ・顧客情報・機密情報を観測基盤にコピーするということである。観測基盤そのものが、アクセス制御・保持期間・越境移転の統制対象になる。「監視ツールだから」という理由でベンダー審査を軽く通していると、本番直前でここが論点になる。
標準の側もまだ固まりきっていない。OpenTelemetry の GenAI 規約は agent / workflow / tool / model のスパン定義とトークン使用量・レイテンシのメトリクスを備えているが、`gen_ai.*` 系の属性の多くは Development（開発中）の安定性区分にある。つまり、メジャーバージョンを上げずに属性名が変わりうる。Datadog は v1.37 以降の規約にネイティブ対応しているが、いま構築する観測基盤には規約側の変更に追随する工数が織り込まれていないことが多い。
「安くする」がそのまま「証跡を削る」になる
観測（運用のため）と証跡（説明のため）を分けるべきことを示す図。運用グレード（観測）は、目的が壊れていることに早く気づくことで、価値があるのは直近、サンプリング可、保持は数日から数週間、粒度は集計・分布・異常値であり、削っても業務は止まらない（気づくのが遅くなるだけ）。証跡グレード（監査）は、目的が後から誰かに説明することで、価値があるのは網羅性、サンプリング不可、保持は規程・法令から逆算し最長が支配、粒度は1件ごと・改ざん不能・検索可能であり、削るとその期間は説明できないという状態が確定する。保持期間は一番長い要求が支配し、EU AI Actは高リスクAIの自動生成ログを最低6ヶ月保持と定め、AI事業者ガイドライン第1.2版は入出力・推論過程・判断根拠のログを求めるが合理的な範囲は自社定義、J-SOXのIT全般統制・内部監査・契約上の説明責任はそれぞれ独自の年限を持つ。実務で起きることとして、観測費が予算を超えると技術チームがサンプリング率と保持期間を下げるが統制側は知らず、監査でこの日の判断の根拠を出してくださいと言われて初めて欠落に気づく。何を落とすかは技術判断ではなく統制判断であり、落とした事実を承認記録に残す必要がある
観測費が予算を超えたとき、技術的な打ち手は決まっている。サンプリング率を下げる、保持期間を短くする、入出力本文の保存をやめる。 どれも正当な最適化であり、実際に効く。
問題は、削られる対象が観測データであると同時に監査証跡でもあることだ。
この2つは目的が違う。
観測（運用のため） — 壊れていることに早く気づくためのデータ。価値があるのは直近の情報で、全件は要らない。分布と異常値が見えればよく、サンプリングは合理的な設計判断である。
証跡（説明のため） — 後から第三者に説明するためのデータ。価値があるのは網羅性で、「サンプリングされていたので、その件の記録はありません」は答えとして成立しない。改ざんされておらず、必要なときに検索でき、規定の期間残っていることが要件になる。
目的が違うのに、同じパイプラインから同じ操作で削られる。 これが「安くする」が「説明できなくなる」に直結する理由である。
保持期間の要求は、一番長いものが支配する。
- EU AI Act — 高リスクAIシステムについて、自動生成されるログを最低6ヶ月保持することを提供者・利用者の双方に求めている
- AI事業者ガイドライン第1.2版（2026年3月31日） — 入出力・推論過程・判断根拠のログの記録を求めるが、「合理的な範囲」の中身は各社の定義に委ねられている
- J-SOX のIT全般統制・内部監査・契約上の説明責任 — それぞれ独自の年限を持ち、多くの日本企業では監視ツールの既定値より長い
つまり、「ツールの既定保持は30日です」は要件ではなくベンダーの都合であり、そこに合わせた瞬間に規程との不整合が生まれる。
そして、ここが本番化の観点で最も厄介な点である。この不整合は、平時には誰も困らない。 監査で「この日、この案件について、AIがどの根拠で判断したかを示してください」と言われて初めて欠落が判明する。そのときには、データはもう存在しない。
現実の準備度も追いついていない。Grafana Labs の第4回年次観測調査（76カ国1,363名、2025年10月〜2026年1月実施）によれば、観測の懸念事項の上位は複雑性・運用負荷38%、シグナル対ノイズ34%、コスト31%。そして、LLMを使うアプリケーションの観測を本番で使っているのは14%にとどまる。
83%が最優先だと言い、14%しか本番で使っていない。 この差の大半は、技術の不在ではない。何をどれだけ残すかを、誰も決めていないことによる。
9月の動きは「全部撮る」から「何を撮るか決める」へ
2026年9月の動きが「全部撮る」から「何を撮るか決める」へ移っていることを示す図。検知に使える時間が縮む一方で、テレメトリを減らせという圧力がかかっている。Google Threat Intelligence Group（2026年9月上旬公表）によれば、2026年5月以降、攻撃側がプロンプト利用からエージェント型ワークフローへ移行し、2026年Q2の観測事例ではクラウド資源の侵害から大規模な認証情報収集の実行までが6時間未満だった。完全自律のパイプラインは未観測だが、人間が挟まる遅延が消えた分、防御側の対応窓が縮んでいる。Zscalerは2026年9月9日にAgentic SOCを発表し、ゼロトラストのテレメトリと外部データを統合してAIエージェントが調査・相関・対応を実行する。同社の処理規模は1日あたり約7,500億シグナルでAnthropicとOpenAIのモデルを併用する。推奨される始め方はシグナル密度の高いテレメトリからであり、全量投入は前提にされていない。一方でElasticの2026年観測レポートでは、観測に何らかの形で生成AIを利用する企業が85%で2年以内に98%の見通し、想定外のコスト・超過を経験した企業が67%、経営層から支出の正当化を求められる頻度が増えたという回答が54%。コスト削減と検知能力が同じひとつのダイヤルにつながっている
この1週間の動きは、業界がこの問題をどう扱おうとしているかを示している。
Google Threat Intelligence Group（GTIG） は9月上旬、攻撃側の変化を報告した。2026年5月以降、攻撃者は単純なプロンプト利用からエージェント型ワークフローへ移行しており、スキャン・エラー対処・認証情報収集を自律的に回す構成が観測されている。2026年第2四半期には、クラウド資源の侵害から大規模な認証情報収集の実行まで6時間未満という事例があった。GTIG は「完全自律のパイプラインを実環境で使う攻撃者はまだ観測していない」としているが、人間が挟まることによる遅延が消えた分、防御側に残された対応窓は確実に縮んでいる。
Zscaler は9月9日、AIエージェントが調査・相関・対応を実行する「Agentic SOC」を発表した。ゼロトラストのテレメトリと外部データ、Anthropic・OpenAI のモデルを組み合わせ、同社の処理規模は1日あたり約7,500億シグナルにおよぶ。注目すべきは製品そのものより、推奨される導入の始め方が「シグナル密度の高いテレメトリから」であることだ。全量を投入することは前提にされていない。
一方で、支出への圧力は強まっている。Elastic の2026年観測レポートによれば、観測に何らかの形で生成AIを使う組織は85%（2年以内に98%の見通し）に達する一方、67%が想定外のコスト・超過を経験し、54%が経営層から支出の正当化を求められる頻度が増えたと答えている。
この2つが同時に起きているのが、いまの状況である。検知に使える時間は縮み、しかしテレメトリは減らせと言われている。 そして、コスト削減と検知能力は、同じひとつのダイヤルにつながっている。
「全部撮っておく」は、もはや選択肢ではない。だとすれば残る問いは、何を撮り、何を捨てるかを誰がどう決めるかである。これは技術の問題ではなく、設計の問題だ。
日本の大企業にとって何が変わるか
日本企業には、この論点をさらに複雑にする固有の事情が2つある。
ひとつは、運用保守の外部委託構造である。 多くの大企業では、システムの運用監視を外部のベンダーに委託している。この構造でエージェントを本番化すると、観測基盤は委託先のテナントに置かれることになる。日常の運用ではこれで問題ない。だが監査対応や事故調査で「原本を出してください」となったとき、それが誰の管理下にあり、どの形式で取り出せて、費用は誰が負担するのかが契約に書かれていないケースは珍しくない。取り出せない証跡は、監査の場では存在しないのと同じである。
もうひとつは、稟議と実行の時差である。 観測費は、稟議の時点では小さい。PoCではタスク数が少なく、観測データも少ない。問題が顕在化するのは、部門をまたいで横展開し、タスク数が2桁増えたときだ。そのとき、追加の稟議を出すか、サンプリングを下げるかの二択になる。そして後者は稟議を必要としない。だからそちらが選ばれる。
ここに、これまでの記事で扱ってきた論点との接続がある。権限を設計し、承認を設計し、証跡を残す仕組みを作っても、その証跡を維持する費用が単位原価に入っていなければ、横展開の段階で静かに削られる。統制の劣化は、多くの場合、統制の議論の外側で起きる。
本番化基準に「観測の原価」を書く5つ
本番化基準に観測の原価を書く5つの項目を示す図。2件目に進める前に1件目で実測しておく項目として、①1タスクあたりの観測データ量と観測単価を実測する。スパン数・保存バイト数・保持日数を掛けた月額を推論費と並べて単位原価に含める。推論費だけで見積もった稟議は横展開の段階で必ず外れる。②証跡グレードと運用グレードを分けて設計する。証跡は網羅・改ざん不能・長期保持、観測はサンプリング可・短期とし、保存先も権限も別にする。分けていないと費用削減の判断がそのまま説明責任の欠落になる。③保持期間を法令・規程から逆算する（最長が支配する）。EU AI Actの6ヶ月、J-SOX、内部監査、契約上の説明責任を並べ最長に合わせて証跡側を設計する。ツールの既定値は30日というのは要件ではなくベンダーの都合。④サンプリング方針を統制文書に書き変更を承認事項にする。何を落とすかは技術判断ではなく統制判断であり、落とした範囲と理由を承認記録に残す。予算超過を理由にした無言のサンプリング率変更が最も検出されにくい統制劣化。⑤委託構造で証跡の所在・取り出し・費用負担を契約に書く。運用保守を外部委託すると観測基盤は委託先テナントに置かれるため、解約時のエクスポート可否まで明記する。取り出せない証跡は監査の場では存在しないのと同じ。測っていない観測費は横展開の段階で必ず本番化を止める
1件目の本番化を進めている段階で、次の5つを決めて実測しておくことを勧めたい。いずれも2件目以降にやり直すと高くつく。
① 1タスクあたりの観測データ量と観測単価を実測する スパン数 × 保存バイト数 × 保持日数から月額を出し、推論費と並べて単位原価の行に立てる。「監視は既存ツールでやるので追加費用なし」という前提の稟議は、タスク数が2桁増えた段階で外れる。
② 証跡グレードと運用グレードを分けて設計する 証跡側は網羅・改ざん不能・長期保持。運用側はサンプリング可・短期。保存先もアクセス権限も別にする。 分けておけば、コスト削減の判断が説明責任に波及しない。分けていなければ、費用の議論が統制の議論を兼ねてしまう。
③ 保持期間を法令・規程から逆算する EU AI Act の6ヶ月、J-SOX のIT全般統制、内部監査の年限、契約上の説明責任を並べ、最長に合わせて証跡側を設計する。ツールの既定値に合わせるのではなく、要件から決める。
④ サンプリング方針を統制文書に書き、変更を承認事項にする 何を落とすかは技術判断ではなく統制判断である。落とした範囲と理由を承認記録に残す。 予算超過を理由にした無言のサンプリング率変更は、統制劣化の中で最も検出されにくい類のものだ。
⑤ 委託構造では、証跡の所在・取り出し・費用負担を契約に書く 観測基盤が委託先テナントにある場合、原本の所在、取り出しの形式と所要日数、費用負担、解約時のエクスポート可否まで明記する。運用中は誰も困らないが、必要になる場面は必ず監査か事故のときである。
まとめ
推論の単価は下がり続けている。にもかかわらず、エージェント型AIの観測コストが計算コストを上回ったと答える企業が69%、監視費用を理由に導入を止めた企業が59%という状況が生まれている。テレメトリ量は直近12ヶ月で3.7倍、今後2年で9.5倍という見通しにある。
これは「監視ツールが高い」という話ではない。エージェントを本番で回すという意思決定に、見張り続ける費用が構造的に付随しているという話である。そして日本企業では、この費用が稟議の内訳に立っていないことが多い。
最も避けたいのは、費用を理由にした無言の縮退である。サンプリング率を下げ、保持を短くし、本文の保存をやめる——どれも技術的には正しい最適化だが、同じ操作が監査証跡を削っている。しかもその欠落は、監査か事故のときにしか露見しない。
だから、観測は「運用のため」と「説明のため」に分けて設計する。分けたうえで、証跡側の保持は規程から逆算し、運用側は自由に最適化する。これが、費用の議論と統制の議論を切り離す唯一の方法である。
権限の設計、承認の設計、時間の設計に続いて、いま決めるべきは原価の設計だ。1件目で実測しなかった観測費は、2件目以降で必ず本番化を止めにくる。
私たち Wizit は、大企業のAIをPoCで終わらせず、本番運用とROIまで動かし切ることを仕事にしている。本番化基準の合意には、出力の品質基準やガバナンス要件だけでなく、「何をどれだけ残すか」と「それにいくらかかるか」を含める。運用が始まってから測り始めるのでは、削る判断のほうが先に来てしまうからである。
---
出典:
- Omdia / Apica, "State of Agentic-Ready Observability Infrastructure Report 2026"（2026年6月公表、企業IT意思決定者300名超、北米・西欧） https://www.apica.io/state-of-agentic-ready-observability-infrastructure-report-2026/
- Apica, "New Apica Research: Agentic AI Poised to Trigger 9.5x Telemetry Data Explosion, Leaving Most Enterprises Exposed"（PR Newswire） https://www.prnewswire.com/news-releases/new-apica-research-agentic-ai-poised-to-trigger-9-5x-telemetry-data-explosion-leaving-most-enterprises-exposed-302789349.html
- Grafana Labs, "Observability Survey 2026"（76カ国1,363名、2025年10月〜2026年1月） https://grafana.com/observability-survey/
- Grafana Labs, "AI in observability in 2026: Huge potential, lingering concerns" https://grafana.com/blog/observability-survey-AI-2026/
- Elastic, "Observability trends for 2026 (Part 2): GenAI and OpenTelemetry reshape the landscape" https://www.elastic.co/blog/2026-observability-trends-generative-ai-opentelemetry
- Datadog, "Datadog Agent Observability natively supports OpenTelemetry GenAI Semantic Conventions" https://www.datadoghq.com/blog/llm-otel-semantic-convention/
- Google Cloud Blog, "GTIG AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI" https://cloud.google.com/blog/topics/threat-intelligence/from-prompting-to-autonomy-the-evolution-of-adversarial-ai
- Help Net Security, "Threat actors are giving AI agents a bigger role in cyberattacks"（2026年9月8日） https://www.helpnetsecurity.com/2026/09/08/ai-agents-cyberattacks-automation-google-research/
- Zscaler, "Zscaler launches Agentic SOC to contain AI-Driven Threats"（2026年9月9日） https://www.globenewswire.com/news-release/2026/09/09/3358327/0/en/zscaler-launches-agentic-soc-to-contain-ai-driven-threats.html
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日）
- Regulation (EU) 2024/1689（EU AI Act）第12条・第19条・第26条（自動生成ログの記録・保持）