AI-Papers
- VCSDは外部の大型教師や正解ヒントを使わず、EMA教師が元画像と画像を消した対照の2つの分布を比較して視覚由来のトークンを見つける自己蒸留手法です
- 画像内容を黒画像で消した対照との対数尤度差を利用し、視覚に依存して確度が上がるトークンだけ分布を鋭くして学生モデルへ蒸留します
- Qwen3-VLでViRL39Kが2B 62.3→67.0%、4B 71.3→73.2%、8B 72.5→76.3%と全規模で一貫して向上しました
研究の背景
画像と言葉を同時に扱うVision-Language Model（視覚と言語を統合的に理解するモデル、以下VLM）は、写真を説明したり画像に関する質問に答えたりできます。ところが実際には、画像をきちんと見ずに言葉の知識だけで答えてしまう傾向が知られています。
たとえば「机の上にリンゴはいくつありますか」と尋ねられたとき、画像を精緻に数えるのではなく、文章としてありがちな答えを返してしまうことがあります。これは言語事前分布（テキストの学習で身についた、次に来やすい単語の偏り）に頼りすぎている状態で、細かい視覚的な証拠を見落とす原因になります。
この課題に対しては、正解のヒントや物体検出の領域情報といった「特権情報」を教師役に与えて学習を導く方法が提案されてきました。しかしそうした追加情報の用意はコストがかかり、手軽に使えるものではありません。VLMがどれだけ画像を根拠にできているかという評価の観点は、ProVisEのような空間認知ベンチマークでも重視されています。
提案手法VCSDの仕組み
この論文が提案するVisual Contrastive Self-Distillation（視覚対比自己蒸留、以下VCSD）は、外部教師も特権情報も一切使わずに、モデル自身から視覚に根ざした学習信号を取り出す手法です。鍵になるのは「画像を消す」という発想です。
自己蒸留では、少し前の自分の重みを平均した安定版のモデルを教師役に使います。これをEMA教師（Exponential Moving Average、重みの移動平均で作る教師）と呼びます。VCSDではこのEMA教師に、まったく同じ質問と途中まで生成した文章を与えつつ、画像だけを2通り切り替えて次の単語（トークン）の確率分布を2回出させます。
1つは元の画像を入れた分布、もう1つは元画像と同じサイズの黒一色のRGB画像に差し替えた「内容消去版」の分布です。黒画像を使うことで、解像度や視覚トークンの数は保ったまま、その画像固有の中身だけを取り除けます。
2つの分布を比べると、あるトークンについて「元画像のときだけ確率が上がる」場合、それは画像を見て初めて確信できる視覚由来のトークンだと判断できます。逆に「画像を消しても確率が変わらない」トークンは、言葉の惰性で選ばれているにすぎません。
VCSDはこの対数尤度差（元画像と内容消去版で、確率の対数がどれだけ違うか）を対比信号として使い、視覚で裏付けられるトークンの確率を選択的に強めます。こうして作った鋭い分布を学習目標とし、forward KL（教師分布の広がりを保ったまま学生を近づける指標）で学生モデルへ蒸留します。正解も物体検出も推論トレースも不要で、画像と質問さえあれば信号を作れる点が特徴です。
暴走を防ぐ3つの工夫
分布をやみくもに鋭くすると学習が不安定になります。論文では追加検証（アブレーション）を通じて、3つの安定化の工夫が効いていることを示しています。
- もっともらしさの範囲に限定：元画像で十分な確率を持つトークンだけを鋭化の対象にする
- 対比の強さの調整：強度を表すパラメータαは1から1.5の範囲が最も安定して高精度
- 元画像分布を軸に固定：元画像の分布を基準に保つことで言語ドリフトを抑える
ここで言う言語ドリフトとは、学習が進むうちに出力が目標の言語から外れてしまう現象です。論文では、目標言語以外のトークンを含む生成の割合として定義しています。元画像分布を軸に据えることで、この逸脱を大きく減らせたと報告されています。
実験結果
実験ではQwen3-VLファミリーの2B、4B、8Bという3つの規模で、視覚推論データセットViRL39Kを用いて検証しています。いずれの規模でもVCSDは学習前より一貫して精度を高めました。
モデル規模 | 学習前 | VCSD適用後 | 改善幅 |
|---|---|---|---|
Qwen3-VL 2B | 62.3% | 67.0% | +4.7 |
Qwen3-VL 4B | 71.3% | 73.2% | +1.9 |
Qwen3-VL 8B | 72.5% | 76.3% | +3.8 |
個別ベンチマークでも、2Bモデルで幻覚（画像にない内容を答えてしまう誤り）を測るHallusionBenchが約4.3ポイント、視覚中心の総合評価MMStarが約3ポイント、数式や図の読み取りを問うMathVistaが約1.4ポイント向上しました。正解を教師信号に使う従来のOPSD（On-Policy Self-Distillation）を全設定で上回っています。
トークン単位で対比信号を可視化した分析では、VCSDが元のモデルやOPSDよりも、画像に依存して選ばれるトークンをより強く学習していることが確認できます。これは、モデルが実際に画像を見て答えるようになった裏付けと言えます。
まとめと今後の展望
VCSDは、画像を消した対照との比較というシンプルな仕組みで、外部の大型教師も正解ヒントも使わずにVLMの視覚推論を鍛える手法です。追加の推論コストもかからず、小型のオープンモデルで再現できるため、一般の開発者でも試しやすい点が実用的な魅力です。
一方で、内容消去に黒画像を使う方式が、あらゆるタスクや画像の種類で最適かは今後の検証課題として残ります。対比の強さや鋭化の範囲といったパラメータの調整も、モデルやデータに応じた工夫が要ると考えられます。とはいえ、外部情報に頼らず自己完結で視覚への依存度を高められる枠組みは、VLMの学習を手軽に改善する方向として発展が期待されます。
論文情報: "Visual Contrastive Self-Distillation"（Yijun Liang et al., 2026） arXiv:2607.21556, CC BY 4.0
本記事の図（図1、図2、図3、図4、図6）とサムネイルは上記論文より引用しています（縮小・形式変換あり）。
