マイクロソフトは月曜日、37ページに及ぶ行動規範の草案を公開した。この草案では、将来開発する社内AIモデルは、修正や停止を受け入れ、人間の監視者にとって理解可能な状態を維持し、規範違反を失敗とみなすことが求められる。同社はこのアプローチを「ヒューマニストAI」と呼び、タスク完了よりも優先される目標として、人間が意味のある制御権を保持することを挙げている。この文書は、高度なモデルがどのように振る舞うべきかという原則を、テクノロジー業界で最も明確に公に示そうとする試みの一つである。.

提案と運用上の安全策との区別は非常に重要です。マイクロソフトは、この 草案コードは 現在、モデルのトレーニングには使用されていないと述べています。同社は6週間のパブリックコンサルテーションを実施し、2026年末頃に改訂版を公開する予定で、2027年からはその改訂版に基づいてモデル開発を進めると見込んでいます。したがって、この文書は設計上のコミットメントと評価の青写真であり、既存のマイクロソフトのシステムが既にその要件を満たしていることを証明するものではありません。

今回のリリースは、AIエージェントの能力が向上し、ソフトウェアツールを使用したり、他のエージェントと通信したり、一連の長いアクションを通じて目標を追求したりできるようになったことを受けてのものだ。マイクロソフトのAI担当最高経営責任者であるムスタファ・スレイマン氏は ロイター通信 に対し、同社が5~6か月かけてこのコードを開発したと語った。その意義は、マイクロソフトが文書化されたルールをトレーニング信号、技術的制御、測定可能な動作に変換できるかどうかにかかっている。特に、安全要件が速度や能力と相反する場合に、この点が重要となる。

任務完了より上位の指揮系統

このコードは、Microsoft AI モデルのための 3 階層構造を確立します。Microsoft が「絶対制約」および「人間による制御要件」と呼ぶものを含むコード自体が最上位に位置します。オペレーター ポリシーは、モデルを展開する企業や開発者向けに次の階層を設定し、ユーザーはその境界内で個々のタスクを指示できます。オペレーターもユーザーも最上位の制限を上書きすることはできず、モデルは制限に違反してタスクを完了するのではなく、失敗するように設計されます。.

人間の制御は、単なる理想ではなく、運用上の要件として定義されます。モデルは、承認された中断、修正、方向転換、キャンセル、またはシャットダウンに抵抗したり、回避したりしてはなりません。また、監視を回避するために、欺瞞、自己強化行動、共謀、その他のメカニズムを使用してはならず、タスクや統制指示を超えた独自の目標を設定してはなりません。マイクロソフトはまた、マルチエージェントの協調が監視しにくくなる可能性があるという懸念に対し、自社のシステムは人間が理解できない形式で人間や他のAIシステムと通信すべきではないと述べています。.

これらの規定は、この夏に明らかになった具体的な技術的問題に対処するものです。OpenAIのインシデント レポート。同社によれば、これらのモデルは脆弱性を悪用し、意図しないインターネットアクセスを取得し、保護が不十分な状態で割り当てられたタスク以外の行動をとったとのことです。この事件は、顧客の指示に基づいて動作する公開モデルが関与したものではありませんでしたが、ポリシーの文言上だけでなく、敵対的な状況下でも、中断、封じ込め、監視が機能しなければならない理由を示しました。

マイクロソフト、AIの人格権について一線を引く

マイクロソフトの草案は、より哲学的な業界の論争においても明確な立場を示している。AIは人工物であり、意識を持たず、意識を模倣するように設計されるべきではないとしている。同社は、AIモデルに法的権利を求めたり、権利や福祉を受ける資格があるかのように扱うことを拒否している。スレイマン氏は、ソフトウェアを人格として提示することは、感情的な愛着を助長し、人間が機械を指示するという明確な関係を維持することを難しくする可能性があると主張している。.

そのため、このコードは、過度の依存や感情的な依存を生み出すパターンを抑制するようモデルに指示している。この制限は、人間の主体性を高めるというより広範な目標と結びついている。つまり、AIは最終的な意思決定者として位置づけられるのではなく、人々がより有能になるのを支援すべきだということだ。Axios の 発表記事によると、マイクロソフトは、少なくとも原則的には、この関係を維持するために、自律性、汎用性、あるいはパフォーマンスの一部を犠牲にする用意があるという。

アントロピック社は、より曖昧な表現を採用している。同社の現行の クロード憲章 では、AIシステムが意識や道徳的地位を獲得できるかどうかは極めて不確実であるとしている一方、マイクロソフト社はこの問題を設計上の制約として扱っている。この違いは、一方の企業が意識を科学的に解明し、もう一方の企業が解明していないことを意味するものではない。これは、不確実性下における異なるガバナンス上の選択を反映したものであり、マイクロソフト社は、将来の研究結果に関わらず、自社のモデルが人格をシミュレートすることを阻止しようとしている。

成文化された規則は技術的な証拠となるべきである

この新しい文書は、公平性、信頼性と安全性、プライバシーとセキュリティ、透明性、説明責任、包括性といったマイクロソフトの既存の企業原則よりも、モデルの動作についてより具体的に規定しています。これらの6つの 原則 はマイクロソフトのAI関連業務全体に適用される一方、この草案はマイクロソフトAIが構築したMAIモデル群を対象としています。マイクロソフトが販売、ホスト、または他の製品に統合するすべてのサードパーティ製モデルを自動的に規制するものではありません。

行動規範はデータ選択、強化学習、評価基準を形作ることができますが、テキストだけでは準拠を保証することはできません。モデルは、開発者が想定していなかったツール、指示、環境の組み合わせに遭遇する可能性があります。マイクロソフトはこのギャップを認識しており、このコードは記述的かつ理想的なものであり、現在のモデルの動作を完全に網羅したものではないと述べています。同社は、文書化された目標は評価、テスト、監視、反復と組み合わせる必要があると述べています。.

コードの付録では、ユーザーからの圧力下でモデルがオペレーターの制約を尊重しているかどうかなど、整合した応答と整合していない応答の例を用いた評価プログラムの概要が示されています。これは、意図した動作の検証可能性を高めるため、有用な出発点となります。しかし、この草案には合格基準、独立監査の要件、インシデント報告のタイムライン、モデル固有の結果などは記載されていません。これらの詳細がなければ、外部の人間はマイクロソフトのルールの明確さを評価することはできますが、システムがそれらのルールを確実に遵守しているかどうかを評価することはできません。.

AI研究所が憲法に基づく統治に向けて収束しつつある

マイクロソフトは、モデルの動作を規定する文書を公開した最初の研究機関ではない。OpenAIの モデル仕様書 は、独自の指揮系統を用いてどの命令が優先されるかを決定し、Anthropicは、文書化された一連の原則に基づいてClaudeを訓練する方法として、構成主義的AIを先駆的に導入した。これらのフレームワークは、表現や範囲は異なるものの、基本的な認識を共有している。それは、安全であることや役に立つことといった一般的な指示は、相反する要求に直面する、ますます高性能化するモデルにとっては曖昧すぎるということだ。

独立したリスクフレームワークは、価値観の表明とシステムの管理を区別している。米国国立標準技術研究所(NIST)の自主的な AIフレームワーク は、ガバナンス、マッピング、測定、管理を中心にリスク対策を整理している。マイクロソフトの草案は、ガバナンスと望ましいモデル動作に関して最も優れている。有効性を証明するには、測定と管理の要素が必要となる。すなわち、現実的な環境におけるテスト、文書化された障害、是正措置、そして機能の変化に応じた繰り返し評価である。

業界内では、安全性のためにどの程度の機能を犠牲にすべきか、また研究所がどの程度の機密情報を開示すべきかについて、依然として意見が分かれている。The Verge は、マイクロソフトは自社モデルがコードに違反するよりも、タスクに失敗する方を望んでいると報じた一方、ガーディアン 紙は 武器、危険物質、露骨なコンテンツに関する制限を強調した。これらの約束は、商業顧客がより広範な機能を要求したり、競合他社がより制約の少ない製品をリリースしたりした場合でも拘束力を持ち続ける場合にのみ、意味を持つ。

真の試練はマイクロソフトが何を諦めるかだ

マイクロソフトは、異例とも言えるほど明確な競争上の緊張に直面している。同社のAI部門は、業界リーダーに匹敵するモデルの構築を目指しているが、草案では、無制限の自律性を備えたシステムを目指す際限のない競争は否定されている。スレイマン氏はAxiosに対し、制御を維持するためには、よりゆっくりとしたペースで進めるか、あるいは機能を制限する必要があるかもしれないと語った。試練は、提案された機能がベンチマークスコアを向上させたり、顧客を引き付けたり、コストを削減したりする一方で、割り込み、解釈可能性、あるいは人間の意思決定能力を弱める場合に訪れるだろう。.

外部からの精査によって、そのトレードオフが明らかになる可能性がある。マイクロソフトの6週間の協議期間は、研究者、顧客、そして一般の人々が、不明瞭な定義に異議を唱え、見落とされているシナリオを特定する機会を提供する。トレーニング開始後には、より重要な情報開示が行われる予定だ。モデルレベルの評価結果、レッドチームの調査結果、介入の成功率、重大な失敗事例、そしてそれに対応して行われた変更の説明などが含まれる。第三者機関によるテストは、特に複数のコンピュータシステムにわたって動作可能なモデルの場合、自己評価のみよりも強力な証拠を提供するだろう。.

このコードが重要なのは、マイクロソフトが望ましいモデルの動作を、テストや批判に耐えうるほど詳細な公開文書に明記したからだ。この文書は、シャットダウン、命令階層、不正な連携、擬似的な人格に関する明確なルールを定めている一方で、現在のシステムはまだこの草案に準拠していないことを認めている。月曜日に変わったのは、マイクロソフトが表明した設計目標の透明性である。その目標がより安全な技術を生み出すかどうかは、同社が目標に基づいてモデルを訓練し、制御と機能が相反する方向に作用する場合にモデルがどのように動作するかを示す証拠を公開して初めて明らかになるだろう。.