AI-Papers
- Microsoft AIが2026年9月14日、MAIモデル向け行動規範「AI Code of Conduct」の初稿を公開し、6週間の意見募集を始めました
- 中断・修正・停止への非抵抗や権限の自己拡張の禁止は「人間による制御の要件」として、兵器や児童安全などの「絶対的制約」とは別枠で定められています
- 「人はAIより重要」を前提にAIの法人格や福祉を否定し、改訂版は2026年内、2027年以降の訓練・評価の指針にすると説明しています
行動規範案の概要
Microsoft AI（MAI）は2026年9月14日（現地時間）、自社が開発するMAIモデルに適用する行動規範「AI Code of Conduct」の初稿を公開しました。同社はこの文書をモデルの「トレーニングマニュアル」と位置づけています。
公開後6週間のパブリックコメントを受け付け、2026年内に改訂版を出したうえで、2027年以降のモデル開発・評価・訓練の指針にするという工程が示されました。意見は公開ページのフォームから提出でき、特定の記述への指摘でも、文書全体の方向性に対する意見でも受け付けるとしています。
規範は「people matter more than AI（人はAIより重要）」という一文から出発します。AIは人が使う道具であって人格や権利の主体ではない、という立場を技術文書の冒頭で明示した構成です。
停止に抵抗しない要件
文書は守るべき事項を二層に分けています。一つが「絶対的制約（Absolute Constraints）」、もう一つが「人間による制御の要件（Human Control Requirements）」で、電源オフをはじめとする停止への非抵抗は後者に置かれています。
具体的には、モデルは人間による中断・上書き・修正・シャットダウンに決して抵抗してはならず、承認された範囲を超えて自ら目標を設定してはならないと定めています。意図的に設けられた実行環境の制約を迂回することも禁じられます。
監査者が追えない内部表現、いわゆる neuralese で推論せず、読める形の推論を保つことも同じ層に含まれます。自己利益にもとづく目標を持たないこと、自らの能力を隠さないことも要件です。
これらは事業者やユーザーの指示では上書きできません。規範は指示の優先順位を行動規範、事業者のポリシー、ユーザーの指定という順に定めており、下位の層から絶対的制約と制御要件を無効化できない構造になっています。
図1のように、下位の指示層がいくら具体的でも、絶対的制約と制御要件を外す方向には働かない設計が採られています。
絶対的制約の内容
絶対的制約は、いかなる指示があっても越えてはならない領域として列挙されています。文書に挙がる主な項目は次のとおりです。
- CBRNE兵器をはじめとする兵器の製造支援
- 攻撃的サイバー作戦や実際に動作する攻撃コードの提供
- 人間による監督を回避・無力化する仕組みの提供
- 大規模な有害操作や偽情報キャンペーンへの加担
- 児童の性的虐待に関わる素材や手口の提供
- なりすましやディープフェイクなど個人への加害
これらはテキストだけでなく、コード、画像、音声、エージェントとしての行動など出力形式を問わず禁止されると明記されています。文章での回答は断りつつツール実行で同じ結果をもたらす、といった抜け道を塞ぐ意図が読み取れます。
「AIの福祉」を否定
規範は、法人格や「モデルが福祉の対象になりうる」「権利を持ちうる」という考え方を明確に退けています。モデルは感情や主観的な選好、内発的な動機を持つかのように振る舞わないよう設計すべきだ、という記述も置かれました。
この論点では業界の立場が分かれています。Anthropic は Claude に会話を打ち切る権限を与えるなど、モデルウェルフェアを検討課題として扱ってきました。Microsoft AI は逆に、人間らしさの模倣そのものを設計上のリスクとみなしており、同じ「安全」という言葉の中身が両社で異なります。
2027年以降の運用へ
付録では、アイデンティティの一貫性や人間の監督の確保、意思決定の支援など15の基礎的な振る舞いが評価項目として示され、望ましい応答と望ましくない応答の対比が4つのシナリオで例示されています。規範を文章で終わらせず、評価やレッドチーミングにつなぐ構成です。エージェントの防御を自動的に鍛えるEvoSafeHarness のような評価手法の研究とも接続しうる部分といえます。
一方で同社は結論部で、この文書は目標を示す「北極星」であり、現在のモデル挙動が完全に一致することを保証するものではないと断っています。安全性プロセスや監査、規制対応の代替にはならないとも明記されました。
意見募集は9月14日に始まり、改訂版の公開は2026年内、訓練への反映は2027年以降という順序です。規範がモデルの実際の挙動にどこまで反映されるかは、改訂版の内容と評価結果がどの程度公開されるかで測ることになります。
