本文へスキップ
AI-Papers

GoogleがGemini APIにTool Retrievalを公開、ツール定義のトークンを削減

GoogleがGemini APIにTool Retrievalを公開、ツール定義のトークンを削減
  • Googleが Gemini API の Interactions API 向けに、ツールのパラメータスキーマを必要時だけ読み込む Tool Retrieval をプレビュー公開した
  • tool_search ツールの追加と defer_loading: true の指定だけで動き、検索用インデックスの構築やホスティングは不要である
  • Gemini 3.6 以降と Gemini 4 系で利用でき、追加課金はなく通常のトークン単価で請求される

遅延ロードの新機能

Googleは Gemini API に Tool Retrieval をプレビュー機能として追加しました。多数のツールを登録したエージェントが、各ツールのパラメータスキーマ(引数の型や必須項目を定める定義)を、実際に必要になった時点でのみ読み込めるようにする仕組みです。

従来の Function Calling では、リクエストごとにすべてのツールの完全なスキーマを送る必要がありました。ツール数が増えるほど入力トークンが膨らみ、応答までの待ち時間も伸びます。さらに候補リストが長くなるにつれて、モデルが正しいツールを選ぶ精度も落ちていきます。Tool Retrieval はこの two 重の負荷を、スキーマの送信タイミングをずらすことで緩和します。

ツール呼び出しの基本的な流れについては、Function Calling(ツール呼び出し)とは?仕組み・構造化出力・実装の落とし穴を解説も参考になります。

サーバー側検索の仕組み

実装は2つの指定で完結します。リクエストに tool_search ツールを加え、後回しにしたいツールに defer_loading: true を立てるだけです。遅延対象のツールについて、モデルは名前と説明文だけを見える状態になり、パラメータスキーマは手元にありません。

モデルが特定のツールを使うと判断すると、名前を指定してスキーマを要求します。API がサーバー側でスキーマを読み込み、同一リクエスト内でそのまま関数呼び出しまで進みます。検索処理は Gemini 側で実行されるため、開発者が埋め込みインデックスを自前で用意してホストする必要はありません。

処理の経過は Interactions の steps に記録され、tool_search_call、tool_search_result、function_call の順で確認できます。ツール名や説明文の書き方が原因で選択に失敗している場合の切り分けに使えます。

図1: 常時ロードと遅延ロードを併用したツール呼び出しの流れ
図1: 常時ロードと遅延ロードを併用したツール呼び出しの流れ

図1のように、利用頻度の高いツールは従来どおり読み込んだままにし、使用頻度の低いロングテール部分だけを遅延させる併用が想定されています。遅延したスキーマはプロンプト先頭に入らず、読み込まれたスキーマは会話の後方に追加されるため、プレフィックスキャッシュが安定したまま維持される点も実用上の利点です。

MCPサーバーの一括遅延

リモートの MCP(Model Context Protocol)サーバーを扱う場合は、mcp_server ツールに defer_loading: true を指定すると、そのサーバーが公開するツールすべてがまとめて遅延対象になります。ツールを1つずつ宣言せずに、多数のツールを持つサーバーを接続できます。

自前のツールレジストリや埋め込み検索、ユーザーごとの権限フィルタを持っている場合は、クライアント実行モードを選べます。tool_search を "execution": "client" で宣言し、検索パラメータを定義しておくと、モデルが検索ツールを呼んだ際にアプリ側で該当スキーマを探し、function_result として返す形になります。2つのモードの違いは次のとおりです。

項目

サーバー側検索

クライアント側検索

検索の実行場所

Gemini API 側

自前のアプリ

往復回数

同一リクエスト内で完結

検索ごとに1往復追加

事前のツール宣言

必要

不要

権限フィルタの適用

難しい

自由に実装できる

クライアント側検索は往復が1回増える代わりに、事前宣言が不要になります。ユーザーが会話の途中で外部サービスを連携したときに、新しいツールをその場で露出させるといった使い方ができます。

対象モデルと料金

Tool Retrieval は Gemini 3.6 以降のモデルで利用でき、Gemini 4 系のすべてのモデルが対象です。現時点では Interactions API 限定で、プレビュー段階という位置づけになっています。

料金は機能そのものへの追加課金はなく、呼び出すモデルの通常単価で入出力トークンが請求されます。ただし tool_search を有効にすると小さな固定分の入力トークンが加わり、読み込まれたスキーマはその会話の残り全体で入力として課金されます。最初から宣言していた場合と同じ扱いです。

Googleは削減量の具体的な数値を示しておらず、読み込まれなかったスキーマが読み込まれたものを上回るときに節約になると説明しています。効果はワークロード次第で変わるため、自社のトラフィックで計測することを推奨しています。

シェア:

投稿には GitHub アカウントが必要です。投稿内容は公開され、利用規約に反するものは予告なく削除します。