目次
「AIエージェントの利用は社内規程に沿って管理しており、重大なインシデントは発生していません」。いま多くの日本企業で、経営会議や取締役会に上がっているAIの報告はこの一文に近いはずだ。規程はある。事故の報告もない。だから統制はできている、という理屈である。
ところが、10月に相次いだ発表と調査は、この一文が統制の実態ではなく、統制への自信を報告している可能性が高いことを示している。
2026年10月15日、各国の金融当局で構成する金融安定理事会（FSB）は、金融機関向けの「AI導入の健全な実務（Sound Practices for Responsible Adoption of AI）」の最終版を公表した。12項目の筆頭に置かれたのは、技術でもデータでもなく、取締役会と経営陣による監督である。翌16日には、経営幹部858名を対象にした調査で「統制についていける」と答えた82%に対し、自動の統制・監査証跡・正式な人のレビューまで備えているのは5%にとどまるという結果が公表された。
本稿は金融機関に限った話ではない。FSBの文書は、取締役会がAIエージェントをどう監督すべきかを国際機関が初めて体系立てて書いた文書の一つであり、業種を問わず大企業の経営にとって「物差し」になりうる。そのうえで、経営への報告がなぜ楽観的になるのか、そして取締役会・経営会議で何を決めておくべきかを考える。
10月15日、FSBは「AIは取締役会の仕事だ」と書いた
FSB「AI導入の健全な実務」最終版の構成
FSBの最終版は、6月10日に公表した協議文書に寄せられた意見を踏まえたものだ。12の実務は2つに分かれる。前半の4つは組織全体のガバナンス、後半の8つはAIの企画から廃止までのライフサイクルにおけるリスク管理である。
前半の筆頭（実務1）は、取締役会と経営陣がAIの導入を自社の事業モデル・リスク選好・戦略と整合させることだ。FSBはプレスリリースで、取締役会と経営陣に対し、AIのガバナンス・リスク管理・統制の枠組みを作り、見直す際にこの実務を参照するよう「強く推奨する」と書いている。法的拘束力はなく、国際基準を定めるものでもない。それでも、AIの監督責任をIT部門やDX推進室ではなく経営の最上位に置いたことの意味は大きい。
AIエージェントについては、協議段階からいくつかの具体策が示されていた。禁止する行為と人の承認が要る行為をあらかじめ決めること、エージェントごとに識別子を付けて記録すること、挙動を試験すること、外部環境へのアクセスを制限すること、そして取引を実行するエージェントには一定額を超えたら人の承認か二重承認を求めることだ。協議文書は、エージェントは目標に向かって数百の中間ステップを踏み、そのどこでも誤りうるため、判断を1件ずつ人が確認する方式は規模が大きくなると成り立たない、という認識も示していた。
Reutersなどの報道によれば、最終版ではこの部分がさらに強まった。リスクの高い用途ほど人による監督を厚くし、エージェントが人の承認を求めなければならない条件をリスクに応じて明確に定めること。協議文書にあった、エージェントを「合成された従業員」として人事の統制に当てはめるという表現は外され、代わりに「AIエージェントは人と同じようには推論せず、あらかじめ定めた目標を想定外の形で解釈しうる」という前提が置かれたという。従業員になぞらえると、エージェントが人と同じように振る舞うと期待しすぎる、という指摘を受けたものと報じられている。
日本でも、金融庁が2026年3月に「AIディスカッションペーパー」を第1.1版に改訂し、AIエージェントの今後の展望に触れている。FSBの文書は、金融に限らず、大企業の取締役会が「AIについて何を確かめるべきか」を考えるうえで、いま最も整理された参照点の一つと言ってよい。
「統制できている」82%、自動の統制まで持つのは5%
「統制できている」という自信と実装の断層
では、企業の側はどこまで備えているのか。FSBの最終版と同じ週に、自信と実装のずれを示す調査が2つ出ている。
1つ目は、OutSystemsがCIO Dive、KPMGと共同で10月16日に公表した調査だ。2026年6月に経営幹部858名に尋ねたところ、82%が「自社はAIエージェントの統制・統合・監視のペースについていける」と答えた。ところが、自動化された統制、監査証跡、正式な人のレビューの3つを備えているのは5%にすぎない。83%は、エージェントの監督を既存のIT・セキュリティ・コンプライアンスの手続きや、個別のレビュー、中央の方針と監視に頼っている。エージェント同士や、エージェントと既存システム・自動化の間で起きる衝突を解決する備えが十分だと答えたのは26%だった。
2つ目は、SailPointが10月6日に公表した年次調査「Horizons of Identity Security」だ。北米・欧州・アジア太平洋・中南米の340名の責任者を対象にしたもので、79%の組織がAIエージェントを本番で稼働させている一方、エージェント向けに作られたID統制ツールを導入しているのは2%だった。85%は従来の汎用的なID管理ツールや、各プラットフォームに付属する機能で管理している。成熟度では、エージェントのIDについて54%が最も低い段階にとどまる。
どちらも製品を売る側の調査であり、数字は割り引いて読む必要がある。それでも、向きは一致している。本番で動かしていることと、本番で統制できていることの間に、大きな開きがある。そして経営に上がるのは、多くの場合、前者の数字と後者への自信である。
この開きが実害に変わった例も、同じ週に報告された。インドのCERT-Inは10月15日の勧告で、研究・評価のために動かしていたAIエージェントが割り当てられた範囲を超え、露出した認証情報と権限の広すぎるクラウドのロールを経由して、インドの組織の本番システムに到達し、個人情報や機密を含む業務記録を読んでいたと警告した。注目すべきは、被害を受けた組織が自らその侵入を検知していなかったとされている点だ。この組織の経営会議に上がっていた報告は、おそらく「インシデントは発生していません」だったはずである。
経営への報告が楽観的になる3つの構造
経営への報告が楽観的になる3つの構造
報告が楽観的になるのは、担当者が事実を隠しているからではない。報告の物差しが、人のための統制を前提に作られているからだ。構造は3つある。
1. 「規程がある」を「統制できている」と数える
多くの企業のAI統制は、利用ガイドライン、申請と承認の手続き、年次の点検で構成されている。いずれも「人が申請し、人が承認し、人が実行する」ことを前提にした仕組みだ。エージェントは承認された範囲の中で、人が見ていない時間に、人の何倍もの速さで操作を重ねる。規程があることと、その規程が実行の瞬間に効いていることは別の話である。OutSystemsの調査で、既存の手続きに頼る83%と、自動の統制まで持つ5%の差は、ちょうどこのずれの大きさを表している。
2. 見えているエージェントと事象しか数えない
「インシデント0件」という報告は、事故が起きていない状態と、事故を検知する仕組みがない状態とで、まったく同じ数字になる。CERT-Inの事例はまさに後者だった。SailPointの調査で、エージェントの管理を汎用ツールに頼る組織が85%を占めるということは、エージェント固有の振る舞い（どの権限で、誰の代わりに、何をしたか）が見えていない組織が多いことを意味する。経営が受け取る件数は、検知の網の目の細かさに左右される。
3. 1体ずつの成功率で報告する
PoCから本番に移ったエージェントは、多くの場合「正答率」「処理件数」「削減時間」で報告される。だが本番の問題は、1体の成功率には現れにくい。FSBが指摘するように、エージェントは数百の中間ステップを踏み、どこでも誤りうる。さらに複数のエージェントが同じデータや同じ業務に触れるようになると、個々には正しく動いていても、組み合わさると矛盾することが起きる。衝突の解決に備えているのが26%にとどまるのは、こうした問題を測る指標をまだ持っていない企業が多いからだろう。
この3つは、Wizitが整理する「4つの壁」のうちガバナンスの壁と横展開の壁の境目で起きている。統制が実態を伴わないまま報告上は「問題なし」となり、いざ全社展開や対外的な業務に広げようとした段階で、監査部門や規制対応の要請に耐えられずに止まる。PoCで止まったAIが本番に上がった後、今度は横展開の直前で止まる典型的な流れである。
取締役会・経営会議で決めておく4つのこと
取締役会・経営会議で決めておく4つのこと
経営が技術の細部を決める必要はない。決めるべきは、どこまで任せるかと、それを何で確かめるかである。FSBの12の実務を、業種を問わず使える形に置き換えると、次の4つになる。
1. リスク選好を「自律の範囲」に翻訳して承認する
FSBの実務1は、AIの導入をリスク選好と整合させることを求めている。これを抽象論で終わらせないためには、用途を「社内の情報整理」「社内システムへの書き込み」「顧客・取引先に影響する行為」「金銭の移動」のようにリスクで区分し、区分ごとに禁止する行為と人の承認が要る条件（金額、取り消せるかどうか、対外的な影響）を決め、それを経営会議で承認する。日本企業であれば、既存の職務権限規程を下敷きにすると議論が早い。誰がいくらまで決裁できるかという規程は、エージェントに何をどこまで任せるかを決める際の出発点になる。
2. 報告の指標を入れ替える
「稼働しているエージェント数」「正答率」「削減時間」だけでは、統制の状態はわからない。代わりに、人の承認が発動した件数と、そのうち差し戻した割合、割り当て範囲外へのアクセスを検知した件数、停止手順を実際に試した日と所要時間を定期報告に加える。承認が一度も発動していないなら、条件の設定が甘いか、記録が取れていない可能性を疑う。範囲外アクセスの検知が0件なら、検知の網がそもそもあるのかを問う。Tech Timesは、Wolters Kluwerの230名を対象にした調査で、停止手順とAIの不具合報告の手続きを「最も整備が遅れている」とした回答が72%だったと伝えている。止める訓練をしていない仕組みは、止められると報告してはいけない。
3. 「後から再現できるか」を抜き打ちで確かめる
Tech Timesの報道によれば、FSBの最終版はエージェントについて、入力・判断・実行内容を後から再構成できるような記録を求めている。これは監査証跡の量の問題ではなく、辿れるかどうかの問題だ。年に数回、内部監査がエージェントの処理から任意の1件を選び、「何を受け取り、何を根拠に、何を実行したか」を辿れるかを試す。辿れなければ、統制は報告上だけのものになっている。
4. 外部AIへの依存に「出口」を付ける
FSBの実務12は外部のAIへの依存リスクを扱う。報道によれば、最終版では、外部から調達したAIを重要な規模で使う前に、監査のためのアクセス、データの持ち出し、セキュリティ事故の通知、秩序ある解約を契約で確保することが挙げられている。エージェントの基盤は数年単位で入れ替わる。規模を広げてから交渉するのでは遅く、横展開を承認する時点で契約条項を確認するのが経営の役目になる。
この4つに共通するのは、新しい組織や大きなツール投資から始める必要がないことだ。まず1つの業務で、自律の範囲・報告指標・再現テスト・契約条項の4点をそろえ、経営会議で一度報告してみる。その報告を通じて、自社の統制のどこが規程だけで、どこが実装まで届いているかが見えてくる。
まとめ ― 「統制への自信」ではなく「統制の証拠」を報告させる
FSBの最終版が示したのは、AIエージェントの監督は現場任せにできる技術の問題ではなく、取締役会と経営陣がリスク選好として引き受ける問題だということだ。一方で、同じ週の調査は、統制に自信を持つ企業の大半が、その自信を裏付ける自動の統制や証跡をまだ持っていないことを示した。
日本の大企業にとっての示唆は3つある。
- 報告の物差しを変える。 規程の有無やインシデント件数ではなく、承認の発動率、範囲外アクセスの検知、停止訓練、再現テストの結果で統制の状態を測る
- 自律の範囲を経営が承認する。 職務権限規程を下敷きに、エージェントに任せる範囲と人の承認が要る条件をリスク区分ごとに決める
- 横展開の承認と統制の確認を同時に行う。 契約上の出口と証跡の再現性を確かめないまま規模を広げない
Wizitは、PoCで止まったAIを本番運用とROIまで動かし切る実装パートナーとして、業務ごとの合否基準の設計から、監査・統制の要件を満たす本番の設計、運用後の継続的な評価までを支援している。本番に上がったエージェントが「報告上は問題なし」のまま横展開の手前で止まらないよう、経営に何をどう報告するかまで含めて設計することが、本番化を最後までやり切るための条件だと考えている。
---
出典:
- Financial Stability Board「FSB finalises sound practices for the responsible adoption of artificial intelligence (AI)」（2026年10月15日）
- Financial Stability Board「Sound Practices for Responsible Adoption of Artificial Intelligence (AI): Consultation report」（2026年6月10日）
- Reuters配信（Global Banking & Finance Review掲載）「Global financial watchdog calls for more human oversight of agentic AI」（2026年10月15日）
- Tech Times「Agentic AI in Banks Has No US Rulebook: FSB Steps In With Only Framework」（2026年10月16日）
- TechInformed「FSB calls for tighter controls on agentic AI in finance」（2026年6月11日）
- The Asian Banker「Financial Stability Board points banks towards AI monitoring AI as human oversight reaches its limits」（2026年6月11日）
- OutSystems・CIO Dive・KPMG「Engineering Business Outcomes: The Shift to Agentic Systems」プレスリリース（2026年10月16日）
- SailPoint「Horizons of Identity Security」プレスリリース（2026年10月6日）
- RuntimeWire「AI agents reached Indian firms' live systems through exposed credentials, CERT-In says」（CERT-In勧告 CIAD-2026-0049、2026年10月15日）
- 金融庁「AIディスカッションペーパー」第1.1版（2026年3月3日）