AI-Papers- ダリオ・アモデイCEOが「Policy on the AI Exponential」を公開し、高度AIモデルへの独立第三者評価の義務化と政府によるデプロイ差し止め権限の付与を提言
- 評価対象はサイバーセキュリティ、生物兵器開発支援、制御喪失、AI研究の自動化の4分野で、航空機の型式認定に類似した枠組みを想定
- Anthropicが失業対策として3.5億ドル（約500億円）の拠出を表明。経済研究基金と全米規模のフェローシッププログラムの設立を計画
提言の背景と概要
Anthropicのダリオ・アモデイCEOは6月10日、「Policy on the AI Exponential（AI指数関数時代の政策）」と題したエッセイを公開しました。AIの技術進歩と政策対応の間に生じるギャップに対処するための具体策を示した内容で、「Advanced AI Framework（先進AIフレームワーク）」と「Economic Policy Framework（経済政策フレームワーク）」の2本の政策提言も同時に発表されています。
アモデイ氏はエッセイの中で「AIのリスクに対する社会の懸念は正当なもの」と明言しており、AI開発企業自身が規制の枠組みを積極的に提案するという姿勢を打ち出しました。党派を超えた政策連携の実現と、AIがもたらす経済的恩恵を広く共有するための制度設計を訴えています。
4分野での独立評価を義務化
先進AIフレームワークの核となるのが、一定規模以上の計算資源で訓練されたフロンティアモデルに対する独立した第三者評価の義務化です。具体的な評価対象として挙げられているのは、サイバーセキュリティ、生物兵器開発支援、制御喪失のリスク、AI研究の自動化という4分野です。
この仕組みは航空機の型式証明審査に例えられます。新機種が市場投入される前に独立機関による安全評価を義務付ける航空業界の慣行と同様に、フロンティアAIモデルもリリース前に第三者評価を経るべきだという考え方です。さらに、評価の結果として危険性が認められた場合には政府がデプロイを差し止める権限を持つべきだとも提言しており、規制当局に実効性のある関与手段を与えることを求めています。
失業対策に3.5億ドルを拠出
経済政策フレームワークでは、AIによる自動化が雇用に与える影響について失業率に応じた3段階のシナリオを提示しています。楽観的な見通しから深刻な雇用喪失まで段階を分け、それぞれの局面で政府・企業・社会が取るべき対応策を整理した内容です。
Anthropic自身は、この問題に対処する資金として3.5億ドル（約500億円）の拠出を表明しました。具体的には雇用への影響を研究する経済研究基金の設立と、全米規模のフェローシッププログラムの運営への活用が計画されています。OpenAIも「Economic Research Exchange」プログラムを通じてAIの雇用・経済影響の研究を支援しており、大手AI企業がこの問題を業界共通の課題として位置付け始めていることがわかります。
規制設計への影響
今回の提言で注目される点の1つは、Anthropicがフロンティアモデルの規制対象を「一定規模以上の計算資源で訓練されたモデル」として具体化したことです。これにより、適用範囲を客観的な基準で線引きできる可能性が生まれ、実際の制度設計の出発点となり得ます。
EU AI Actによる包括的な規制体制が整備されつつある中、Anthropicの提言はフロンティアモデルに絞った独立評価と政府関与の組み合わせを示すものです。AI安全規制をめぐる議論において、開発企業の経営トップが自ら具体的な制度設計を提案するという動きは、業界の自主的なガバナンスへの関与という観点からも一定の意味を持ちます。提言が米国の政策論議にどう反映されるかが、今後の焦点となります。
