Microsoftが、AIエージェントに本番の作業を任せるための「4つの守り」を公開。頼んだ人以上の権限を持たせず、変更の前には必ず人が承認

・Microsoftの技術者が2026年10月13日、データセンターの通信の障害をAIエージェントに直させるために作った、安全のしくみを公開した

・結論は「これ1つで安全になる、という対策はない」。①頼んだ人以上の権限を持たせない ②決められた道具しか使わせない ③調べるのは自由、変えるときは人の承認を待つ ④慣れた作業はAIを使わない手順書に置き換える、の4つを重ねている

・AIへの指示文で「これはするな」と書くだけでは、守りにならないとしている。AIは指示を取り違えたり、記録に紛れた悪い文章に引きずられたりするため

Microsoftの技術者は2026年10月13日、AIエージェントに実際のシステムの作業を任せるときの安全のしくみを、同社の技術者向けのブログで公開しました。書いたのは、Microsoftのクラウド（Azure）の通信を担当する技術者です。

人の代わりに作業を進めるAIエージェント（AIエージェントとはの記事）は、調べるだけでなく、実際に設定を変えるところまでできるようになっています。今回の記事は、その「変える」ところを任せるときに、何を用意すればよいかを、実際の運用から説明したものです。

この記事では、Microsoftの記事で分かったことを整理したうえで、ふだんの仕事がどう変わるのかを考えます。

AIエージェントは、夜中の障害の調べものを人より先に終える

まずは、どんな仕事を任せているのかを見ていきます。

記事によると、Microsoftは、データセンターの通信がおかしくなったときに対応するAIエージェントを作りました。

・機器の状態や、通信の記録を集める

・直前に行われた変更と照らし合わせる

・どんな故障かを分類する

・担当の技術者がログインし終える前に、まとめを書いておく

AIエージェントは、直し方まで分かります。問題は、お客様の通信が流れている機器の設定を、AIに変えさせてよいかどうかです。記事は、調べることは後から確かめ直せるが、変えることはやってしまったら戻せない、と書いています。

守りは4つ。どれか1つでは足りない

次に、4つの守りの中身です。

記事では、AIを中心に置き、そのまわりを4つの守りで囲む形で説明しています。

記事は、4つのどれかを外すと、それぞれ違う形でしくみが壊れると説明しています。たとえば、権限の守りを外すと、AIが作った誤った設定が、本来その場の誰も持っていない強い権限で実行されてしまいます。

AIは「読み取り役」。決めるのはプログラム

ここで、AIの使い方の考え方を見ておきます。

記事によると、AIに任せるのは、機器が返す読みにくい文字の並びを、決まった形に整理するところまでです。整理した結果は、形が正しいかを機械的に確かめてから、あらかじめ決めた手順のプログラムに渡します。直すかどうかを決めるのは、そのプログラムです。

・AIは、指示を取り違えることがある

・記録や道具の返事に紛れた悪い文章に、引きずられることがある（プロンプトインジェクションの記事）

・新しい設定を一から作らせると、本物らしく見えて、実在しない番号や決まりを作ってしまうことがある

だから、指示文で「これはするな」と書くだけでは守りにならない、というのが記事の考え方です。記事は「自分で動くAIで難しいのは、賢さではなく、何を許すかだ」とまとめています。

仕事はどう変わるか：AIエージェントの安全は「指示文」ではなく「権限の設定」で守る

ここからは、公式の記事をもとにした僕の見方です。

今回の記事で変わるのは、AIエージェントの「守り方」だと考えています。

AIエージェントに仕事を任せるとき、多くの人は、指示文に「送信はしないで」「削除はしないで」と書いて安心しがちです。Anthropicが公表した「意図しない行動」の例でも、指示に書かれていなかった操作をAIが進めてしまいました（意図しない行動の記事）。Microsoftの記事は、指示文はAIへのお願いにすぎず、本当に止めるのは、使えるアカウントの権限と、変える前に止まるしくみだと示しています。

これは、大きなデータセンターにかぎらず、メールや予定表、ネットのお店の管理画面をAIにつなぐときにも当てはまります。

メールや会計の作業をAIエージェントに任せ始めた個人事業主にとっても、何でもできる自分のアカウントをそのままつなぐのではなく、見るだけの権限から始め、送信や支払いの前には必ず確認を求める設定にすることが、いちばん確かな守りになります。

あわせて、知っておきたいこともあります。

・この記事は、Microsoftの技術者が、社内のデータセンターの運用について書いたもの。一般向けの製品の発表ではない

・紹介されているしくみは、技術者が自分で組み立てるもの。ふだん使うAIのサービスでは、権限や確認の設定ができる範囲がサービスごとに違う

・慣れた作業を手順書に置き換えると、AIの料金も、思わぬ動きの危険も減る、と記事は説明している

まとめ：MicrosoftがAIエージェントの「4つの守り」を公開。止めるのは指示文ではなく、権限と承認のしくみ

Microsoftの技術者は、AIエージェントに本番の作業を任せるための4つの守りを公開しました。頼んだ人以上の権限を持たせない、決めた道具だけを使わせる、変える前に人の承認を待つ、慣れた作業は手順書にする、の4つです。

AIエージェントの安全は、賢いAIや丁寧な指示文ではなく、何を許すかの設定で守る、というのがいちばん大きな学びです。

AIにアカウントをつなぐときは、見るだけの権限から始め、変える操作の前には必ず自分が確認する設定にしておくのがよさそうです。

出典

・Microsoft「Copilot to autopilot: Why no single safeguard is enough」（Command Line、2026年10月13日） https://commandline.microsoft.com/ai-agent-copilot-autopilot-layered-model-production-network-incidents-on-call-engineers/

キラ

X

ブログ「Spesial Life」を運営しているキラと申します。 当ブログでは、たった一度の人生を豊かに彩るための情報を発信しています。 目まぐるしく変化する現代社会の中で、思うような人生を送ることができずに困っていることはありませんか？ 僕自身、大学卒業後、サラリーマンとして生きていくなかで、想像していた人生とはかけ離れた不満だらけの日々を送っていました。 それがある本と出会い、考え方と行動を変えることで、自分が望むような人生が手に入ることを知ったんです。 それ以来、自分自身の考え方と行動を変えることを実践して、人生を素晴らしいものへと変えている真っ最中です。 このブログでは僕自身の実体験を踏まえた人生を変える情報や考え方を発信しています。 あなたにとって素晴らしい人生が手に入るよう、一緒に行動していきましょう！