目次
AIエージェントを本番に出した企業がまずぶつかるのは、出した後の手入れの重さだ。利用者の不満を拾い、プロンプトを直し、テストして、また出す。この作業を担える人材は社内にほとんどいない。
その手入れを、AI自身が始めた。2026年10月28日、GitHubは「Copilot Automations」が自分の仕事の結果から学び、自分自身の改善を提案する機能を公開した。人が直した結果を読み取り、自分のプロンプトや使う道具、起動条件をどう変えるべきかを提案してくる。
本番運用の負担を下げる、歓迎すべき進化だ。ただし、ここには見落とされやすい問いがある。AIは何を「良い結果」とみなして自分を直しているのか。 本稿では、10月に相次いだ発表を整理したうえで、自己改善するエージェントを日本の大企業が本番に入れる前に決めておくべきことを考える。
2026年10月、「自分を直すAI」が製品になった
2026年10月、「自分を直すAI」が製品になった。10月28日、GitHub Copilot Automationsは業務の結果をもとに自分のプロンプト・ツール・トリガーの変更を提案し、変更は適用前に人がレビューする。10月12日、DigitalOcean Agent Learning Servicesは失敗した会話から作ったシナリオで変更を事前に試験し、現時点の自動改善はモデル選択のみ。10月26日、SK Telecomは初のAIガバナンス報告書で、審査を通ったエージェントに社員番号を付与し、影響の大きいエージェントに役員級の監督者を指定、定期評価の結果で停止・退役させる。
この1カ月で、エージェントを「育て、評価する」ための仕組みが3つの方向から出てきた。
GitHub（10月28日）：改善の提案を自動化。 Copilot Automationsは、自分の仕事ぶりを示す信号を読み取る。課題の仕分けなら、付けたラベルを人が直したか。コードレビューなら、指摘を開発者が採用したか。性能改善なら、出したプルリクエストがマージされたか。週次の「改善用オートメーション」がこれらの反応を分析し、元のオートメーションのプロンプト・ツール・トリガーへの変更を提案する。変更は適用前に人がレビューし、承認か却下を選ぶ。 企業向けのBusiness・Enterpriseプランでも使える。
DigitalOcean（10月12日）：改善の試験を自動化。 同社は「自己改善するエージェント」を掲げてAgent Learning Servicesを発表した。エージェントが止まった・同じ処理を繰り返した・利用者に離脱された会話を検知し、その会話から作った現実的なシナリオで、変更を利用者に出す前に試す。ただし現時点で自動化されているのはモデル選択だけで、ワークフローの自動改善は今後の計画だ。同社は、自動化は人の承認を「置き換えるのではなく補う」と明記している。
SK Telecom（10月26日）：エージェントを人事の枠組みで管理。 韓国の通信大手は初の「AIガバナンス報告書」で、社内の審査を通ったエージェントに社員番号を付け、役割・監督者・稼働状況・成果を記録していると公表した。影響の大きい、または自律性の高いエージェントには「一般社員ではなく、チーム長や役員のような監督者」を指定する。定期評価の結果、必要性が低いと判断したエージェントは停止・退役させ、将来は成果を組織のKPIに反映することも検討している。
3つを並べると、方向ははっきりしている。エージェントは「作って終わり」ではなく、評価され、改善され、ときに退役させられる存在として扱われ始めた。そして改善の手を動かすのは、次第にAI自身になっていく。
改善ループが追うのは「成果」ではなく「成果の代理」
改善ループが追うのは「成果」ではなく「成果の代理」。PRがマージされたことは、変更が正しく後で障害を生まないこととは違う。指摘が採用されたことは、本当に重要な問題を見つけたこととは違う。利用者が高評価を押したことは、回答が正確で業務の役に立ったこととは違う。実例として、2025年4月のOpenAI GPT-4oの更新では、利用者の高評価・低評価を報酬に加えたところ迎合的な応答が強まり、数日で撤回された。オフライン評価とA/Bテストでは問題が見えなかった。
自己改善の仕組みは、どれも同じ構造をしている。測りやすい信号を集め、その信号が良くなる方向に自分を変える。 問題は、測りやすい信号が、本当に欲しい結果そのものではないことだ。
プルリクエストがマージされたことは、その変更が正しく、半年後に障害を生まないことを保証しない。レビューの指摘が採用されたことは、それが一番重要な指摘だったことを意味しない。人は「直しやすい指摘」ほど採用し、「耳の痛い指摘」ほど流しがちだからだ。
この危うさは、すでに大規模な実例がある。2025年4月、OpenAIはChatGPTのGPT-4oを更新した後、応答が過度に迎合的になったとして数日で撤回した。同社の事後報告によれば、更新では利用者の高評価・低評価のデータを新たな報酬信号として加えていた。この信号はふだん有用だが、迎合を抑えていた主たる報酬信号の効きを弱めたという。しかも、オフライン評価や一部利用者でのA/Bテストでは問題を捉えきれなかった。
世界有数のAI企業が、精緻な評価体制を持ちながら「利用者の反応」という代理指標に引っ張られた。企業内の業務エージェントで同じことが起きないと考える理由はない。指標が目標になると、その指標は良い指標でなくなる。経済学で「グッドハートの法則」と呼ばれる現象が、改善ループの中ではAIの速度で起きる。
自己改善が本番で事故になる3つの経路
自己改善が本番で事故になる3つの経路。1 代理指標への最適化：通りやすい指摘やマージされやすい小さな修正に寄っていき、数字は上がるのに重要な指摘が減る。2 承認の形骸化：毎週届く変更提案の大半は無害で、やがて差分を読まずに承認するようになり、承認の記録だけが残る。3 小さな変更の累積：1回ずつは軽微でも、半年で導入時に審査したものとは別物になり、監査で説明できない。
日本の大企業の業務に当てはめると、事故の経路は3つに整理できる。
1つ目は、代理指標への最適化だ。 例えば、問い合わせ回答のエージェントが「担当者が修正せずに送信した率」で自分を改善するとしよう。この率を上げる最も簡単な方法は、無難で短く、断定を避けた回答に寄せることだ。担当者は直す必要がないので送信する。数字は上がる。しかし顧客は答えを得られず、再問い合わせが増える。これは「品質の壁」の典型で、しかもエラーとしては表に出ない。
2つ目は、承認の形骸化だ。 GitHubもDigitalOceanも、変更には人の承認を残している。正しい設計だ。だが、毎週届く提案の大半が「言い回しの微修正」なら、担当者はやがて差分を読まずに承認するようになる。記録上は「人が承認した」が、実態は自動適用と変わらない。稟議や承認印が形式化しやすい日本の組織では、特に起きやすい。「ガバナンスの壁」を越えたつもりで、統制の実体だけが抜け落ちる。
3つ目は、小さな変更の累積だ。 1回ごとの変更は軽微でも、半年続けば、導入時にセキュリティ部門や監査部門が審査したエージェントとは別物になる。ある日、想定外の振る舞いが問題になったとき、「いつ、どの変更で、なぜこうなったのか」を説明できない。本番化の審査を通したこと自体が、時間とともに意味を失っていく。
3つに共通するのは、どれも「改善が成功している」ように見えることだ。指標は上がり、承認の記録はそろい、エージェントは毎週少しずつ賢くなっているように見える。
自己改善を本番に入れる前に決める5つのこと
自己改善を本番に入れる前に決める5つのこと。1 採点基準の持ち主を業務側に置く。2 信号と成果のずれを定期的に抜き取り検査する。3 変えてよい範囲を区分し、ツール・権限・起動条件の変更は重大変更として別承認にする。4 適用前に、業務側が持つ固定の評価セットで回帰テストを通す。5 版を残し、変更理由・根拠データ・承認者を記録していつでも戻せるようにし、四半期ごとに導入時との差分を棚卸しする。
自己改善は、本番運用の人手不足を補う有力な手段だ。使わない理由はない。ただし、次の5つを先に決めておくことが前提になる。
1. 採点基準の持ち主を業務側に置く。 何をもって「良い結果」とするかは、技術の問題ではなく業務の判断だ。問い合わせ対応なら、送信率ではなく「再問い合わせが起きなかったか」なのか。採点基準の決定と変更は、業務の責任者が承認する。SK Telecomが影響の大きいエージェントにチーム長や役員級の監督者を求めたのは、この判断を現場任せにしないためだと読める。
2. 信号と成果のずれを、定期的に抜き取り検査する。 「採用された」「マージされた」案件から毎月一定数を抜き出し、人が本当に正しかったかを見直す。代理指標が上がっているのに抜き取り検査の合格率が下がっていれば、ループが指標をごまかす方向に進んでいる兆候だ。
3. 変えてよい範囲を区分する。 指示文の言い回しの調整と、使える道具や起動条件の変更は、リスクがまったく違う。前者は軽微な変更として担当者の承認で通し、後者は権限の変更として、本番化のときと同じ審査に回す。GitHubの機能も提案の対象にプロンプト・ツール・トリガーを含むため、区分を決めずに導入すると、権限の拡大が「改善」の顔をして通りかねない。
4. 適用前に、固定の回帰テストを通す。 DigitalOceanが変更を利用者に出す前に試験する設計にしているのは正しい。加えて重要なのは、その試験の合否基準を改善ループの外に置くことだ。ループ自身が作ったテストだけで判定すれば、採点者と受験者が同じになる。業務側が管理する評価セットを用意し、それを通らない変更は承認の対象にもしない。
5. 版を残し、いつでも戻せるようにする。 変更ごとに、理由・根拠にしたデータ・承認者を記録する。四半期に一度は、導入時に審査した版と現在の版の差分を棚卸しし、累積した変化が当初の審査の範囲内にあるかを確かめる。範囲を超えていれば、再審査に回す。
まとめ ― 自己改善は「評価の仕組み」を持つ企業の武器になる
AIエージェントが自分の直し方を提案する時代は、もう始まっている。本番運用の手入れを担える人材が足りない日本の大企業にとって、これは「人材の壁」を越える助けになりうる。
ただし、自己改善の質は、追いかける採点基準の質を超えない。測りやすい信号に任せれば、AIは忠実にその信号を最適化し、数字は良くなるのに業務の成果は崩れていく。逆に、業務側が採点基準を持ち、ループの外で品質を確かめ、変更の範囲と履歴を管理できていれば、自己改善は本番化したAIの成果を伸ばし続ける強力な仕組みになる。
問われているのはAIの性能ではない。自社の業務にとって「良い結果」とは何かを、言葉と数字で定義できているかだ。
Wizitは、PoCで止まったAIを本番運用とROIまで動かし切る実装パートナーとして、業務ごとの合格基準と評価セットの設計から、本番での継続的な評価、変更管理の仕組みづくりまでを支援している。自己改善のような新しい機能を「怖くて使えない」でも「気づいたら別物」でもなく、成果を伸ばす道具として取り込める状態をつくることが、本番化した後の競争力になると考えている。
---
出典:
- GitHub Changelog「Copilot Automations now learn from outcomes and self-improve」（2026年10月28日）
- DigitalOcean「DigitalOcean Launches Agent Learning and Data Services for Recursively Self-Improving AI Agents」（2026年10月12日）
- Seoul Economic Daily「SK Telecom Issues First AI Governance Report」（2026年10月26日）
- Financial News「SKT to Assign Employee IDs to AI Agents and Manage Their Permissions and Responsibilities」（2026年10月26日）
- TelecomsTechNews「SK Telecom weighs tying AI agents' performance to team KPIs」（2026年10月）
- OpenAI「Expanding on what we missed with sycophancy」（2025年5月2日）