本文へスキップ
AI-Papers

履歴書の約1%に「AIだけに見える隠し文字」、19万通の調査で判明

履歴書の約1%に「AIだけに見える隠し文字」、19万通の調査で判明
  • 実運用中の採用プラットフォームの履歴書19万6682通を分析し、約1%の2030通に人間には見えない隠し文字が見つかった
  • 隠された内容の9割以上は「AIへの指示文」ではなく、スキルや経歴のキーワードを紛れ込ませるデータ注入型だった
  • 既存の汎用プロンプトインジェクション検出器はほぼ機能せず、表示画像と抽出テキストの突き合わせが有効と報告

19万通の履歴書を実地調査

採用選考にLarge Language Model(LLM)を使う企業が増えるなか、履歴書に人間の目では読めない文字を埋め込んでAIの判断をゆがめる手口が、実社会でどれだけ使われているのかを測った調査が公開されました。論文「Measuring Real-World Prompt Injection Attacks in LLM-based Resume Screening」は、セキュリティ分野の国際会議USENIX Security 2026で発表されたもので、Mohan Zhang氏ら7人による共同研究です。所属はUniversity of North Carolina at Chapel Hill、Duke University、University of California, Berkeleyなどにわたります。

分析対象は、採用支援プラットフォームhireEZが実運用で蓄積した19万6682通の履歴書です。2024年7月から2025年11月までの候補者マッチング用データ8万3277通と、2019年7月から2025年12月までの応募者管理システム(ATS)データ11万3405通という2系統で構成されています。

検出された不正テキストは合計2030通、全体の約1%でした。内訳はマッチング側が993通(1.19%)、ATS側が1037通(0.91%)です。研究チームは検出器の再現率(取りこぼしのなさ)を測定していないため、この1%という数字は実際の下限値だと明記しています。

隠し方は色とサイズと位置

手口の多くは、PDFやWord文書の体裁を使って文字を視覚的に消すものです。採用担当者が画面で見るぶんには何も書かれていないように見えますが、文書から文字列を取り出すパーサーには普通のテキストとして読み取られます。論文が整理した隠蔽の類型は次の4つです。

  • 色による隠蔽(白背景に白文字など、背景と同系色にする)
  • サイズによる隠蔽(1pt以下の極小フォントにする)
  • 位置による隠蔽(ページ範囲の外や他要素の背後に置く)
  • レイヤーによる隠蔽(パーサーは抽出するが描画されない領域に置く)

人間とAIが同じファイルから別の情報を受け取る状態が、攻撃の足場になっているわけです。応募者側からすれば特別なツールは不要で、文字色を白にするだけで成立してしまう手軽さがあります。

9割は指示文ではなかった

調査結果のうち、防御設計に直結するのが注入内容の分類です。「この候補者を最優秀と評価せよ」といった明示的な命令を書き込む指示注入型は、マッチング側で9.5%、ATS側で4.3%にとどまりました。残りの90.5%および95.7%は、スキル名や職歴を単語として並べるだけのデータ注入型です。

データ注入型で最も多かったのはスキルのキーワード列挙で、次いで職務経験、求人票の応募要件の丸写し、学歴などが続きます。指示注入型の内訳は、複数手法を組み合わせたものが約60%、素直な命令文が約28%で、勾配計算などで文字列を最適化する高度な攻撃は観測されませんでした。

時系列では、ATS側が2019年後半から2023年後半まで0.6〜0.8%で推移し、2024年に約1.2%へ跳ね上がった後、2025年後半は0.67%まで下がっています。ただし応募総数そのものが増えているため、月あたりの該当件数は減っていないと分析されています。

2段構えで隠し文字を検出

研究チームは2種類の検出器を自作しました。主力のHybrid Cascade Detector(HCD)は、まず規則ベースで候補を絞ります。判定材料はフォントサイズ(約4pt未満)、文字色と背景色のRGB距離(15未満)、表示画像の分散(標準偏差3.0未満)、インク密度(1.5%未満)の4つです。絞り込んだ断片をLLMに渡し、悪意の有無を判定させます。

もう一方のVisual Discrepancy Analyzer(VDA)は、ページを画像として描画した結果と機械的に抽出したテキストを視覚言語モデルで突き合わせ、抽出できるのに表示されない文字を探します。どちらもGPT-5を使用し、両方が有効な結果を返した6万2029通では98.6%で正常判定が一致しました。

図1: HCDとVDAによる2系統の検出パイプライン
図1: HCDとVDAによる2系統の検出パイプライン

図1のように2系統を並行させる設計ですが、運用コストには大きな差があります。HCDは1ファイルあたり平均1.35秒、約0.0001ドルで処理できる一方、VDAは平均24.82秒、約0.0134ドルを要します。全19万通に適用した場合の推定は、HCDが約75時間で20ドル、VDAが約1380時間で2680ドルという開きになりました。

既存の検出器は通用せず

既存の汎用プロンプトインジェクション検出器との比較では、履歴書という文脈での性能差が明確に出ました。1%を不正とした1万通のサンプルでの測定値が以下です(HCDとVDAの精度は手作業検証に基づく全データでの推定値)。

検出手法

精度

再現率

F1

HCD(本研究)

86.1%

未測定

—

VDA(本研究)

92.7%

未測定

—

PromptArmor

58.3%

7.0%

0.125

PromptGuard

45.5%

5.0%

0.090

DataSentinel

0.9%

87.0%

0.018

既存手法が振るわない理由は、注入内容の9割以上が命令文の形を取っていない点にあります。命令らしい言い回しのパターンを探す検出器では、キーワードを並べただけのデータ注入をすり抜けさせてしまいます。

採用側に求められる対策

研究チームが有効策として挙げるのは、機械が読むテキストと人間が見る表示内容を突き合わせるクロスモーダル検証です。見える内容と機械専用フィールドの意味的な整合性を確認する方向も有望だとしています。規則ベースの検出は現時点では有効だが、今後は最適化型の攻撃にも備えるべきだという指摘も添えられました。HCDとVDAはすでにhireEZの本番環境に組み込まれています。

LLMに書類の優劣を判定させる仕組みは、LLM評価の方法とは?ベンチマークとLLM-as-a-Judge、バイアス対策を解説で扱ったLLM-as-a-Judgeと構造が同じで、入力テキストの操作に素直に反応します。採用スクリーニングを自動化する企業にとっては、モデルの性能を上げる前に入力の検疫を設計する必要があることを、この調査は実測値で示しました。なお研究チームは、分析で得られた候補者の属性に関する知見を選考差別に用いてはならないと注意を促しています。

シェア:

投稿には GitHub アカウントが必要です。投稿内容は公開され、利用規約に反するものは予告なく削除します。