AI安全ガードレールがセキュリティ研究を阻害 — 研究者が中国製GLMへ流出する皮肉

AI企業が導入する安全ガードレールが、脆弱性の修正確認といった正当な防御目的の作業まで拒否し、セキュリティ研究者の業務を妨げている実態が報じられた
攻撃と防御は同じ問いかけを共有する表裏一体の関係にあり、機械的に切り分けられないというセキュリティの本質的な難しさが浮かび上がっている
規制を嫌う研究者が、検証も利用制限もない中国製オープンモデルGLMへ流れており、安全対策がかえって逆効果になっているとの指摘が出ている

正当な研究を阻む安全対策

米TechCrunchは2026年7月23日、OpenAIやAnthropicが導入するAIの安全ガードレールが、防御目的のセキュリティ研究まで妨げているとする記事を公開しました。ガードレールとは、有害な出力を防ぐためにAIモデルへ組み込まれた制限のことです。悪用を防ぐ仕組みが、正規の研究者の作業にも網をかけている実態を、複数の実名証言で描いています。

セキュリティ企業NCC Groupの主任研究者Chris Anley氏は、脆弱性が悪用可能かを確かめる際、修正済みのコードについてモデルに質問すると回答を拒否される場合があると語ります。防御側が必要とする確認作業がそこで止まってしまうというのです。

RemoteThreatのCEOを務めるChris Thompson氏は、ガードレールの挙動が「一貫性がなく、日によって異なる」と指摘します。本来はセキュリティ対策の中核に注力すべき時間を、モデルとの押し問答に費やさざるを得ないと不満を述べています。

攻撃と防御は分離できない

この問題の核心は、攻撃と防御が同じ道具を共有している点にあります。Anley氏はAIをハンマーにたとえ、防御の道具であると同時に本質的に攻撃の道具でもあると説明します。

修正すべきコードについての問いかけは、防御に欠かせない作業であると同時に、コードベースの重大な脆弱性を見つける手引きにもなり得ます。同じ質問が攻撃と防御の双方に使われるため、AI側が両者を確実に切り分けることは難しいのです。安全性の線引きの難しさは、OpenAIの自律AIが1時間でサンドボックスを回避し内部展開を一時停止した件にも表れています。

Crowdfenseの最高技術責任者Paolo Stagno氏は、AI企業が利用者を「子どものように扱っている」と批判します。何が安全かを一部の大企業が一方的に決める構図に、研究者の不満が募っています。セキュリティ研究者のMark Dowd氏も、こうした恣意的な判断に居心地の悪さを覚えると語りました。

研究者が中国製GLMへ流れる皮肉

規制を嫌う研究者の一部は、米国製モデルを離れて中国製のオープンモデルへ移り始めています。記事が名前を挙げるのは、自由にダウンロードでき、手元の環境で動かせるGLMです。利用状況の検証も使用制限もない点が、皮肉にも研究者を引き寄せています。

Thompson氏は、責任ある研究者が米国の管理下にあるシステムから外国企業のシステムへと追いやられていると述べ、ガードレールがある方がかえって有害だと主張します。安全のための制限が、監視の緩い環境へ人材を押し出すという逆説的な結果を生んでいるわけです。

AI企業の対応と輸出規制

AI各社もこうした声に対応を進めています。OpenAIは防御用途の研究者向けに「Trusted Access for Cyber Defense」を、Anthropicは「Cyber Verification Program」を用意し、審査を通った利用者に対して制限を緩める枠組みを整えています。

一方で規制の圧力も強まっています。TechCrunchの報道によれば、2026年6月に米政府はAnthropicのAIモデル「Mythos」と「Fable」に輸出規制を課しました。同記事によると、その後Fable 5は7月1日に一般提供へ戻り、Mythos 5は審査を通った米国の組織に限って再提供されているとのことです。ガードレールを回避できるという報告が、規制の動機の一部になったと伝えられています。