ローカルLLMの始め方【2026年版】Ollama・LM Studioと必要スペックを解説

• ローカルLLMはデータを外部に送らずPC内で完結でき、プライバシーとコストの両面で利点がある実行方式です
• 必要なVRAMはモデルの規模と量子化の水準で決まり、KVキャッシュは文脈の長さに比例して増えます
• Ollamaは手軽さ、LM StudioはGUIの分かりやすさ、vLLMは同時アクセス性能で選ぶのが2026年の基本です

ローカルLLMとは何か

ローカルLLM（Large Language Model: 大規模言語モデル）とは、ChatGPT のようにクラウド上のサーバーを経由せず、自分のパソコンやサーバーの中だけで動かすLLMのことです。モデルのファイルを手元にダウンロードし、GPU や CPU で直接推論を実行します。

なぜ今、これほど関心が集まっているのでしょうか。理由は大きく3つあります。1つ目はプライバシーです。入力した文章や社内文書が外部のAPIに送信されないため、機密情報を扱う場面でも安心して使えます。2つ目はコストで、従量課金がなく、一度環境を整えれば何回使っても追加料金はかかりません。3つ目はオフライン動作とカスタマイズ性で、ネット接続がない環境でも動き、モデルの微調整も自由に行えます。

必要なPCスペックの目安

ローカルLLMを動かすうえで最も重要なのはVRAM（GPUメモリ）の容量です。Apple Silicon 搭載の Mac の場合は、CPUとGPUで共有するユニファイドメモリがこれに相当します。モデルの重みがすべてメモリに載りきるかどうかで、快適に動くか、それとも極端に遅くなるかが決まります。

目安としては、量子化した状態でモデルの重みが収まり、さらに文脈用のメモリに余裕がある容量を選びます。代表的なモデル規模と必要量の目安を下の表にまとめました。

初めての1台としては、8GB から 16GB の VRAM を積んだGPU、あるいはメモリ16GB以上の Apple Silicon Mac が現実的な出発点になります。7B から 14B クラスのモデルであれば十分に実用的な速度で動きます。

量子化とVRAMの計算方法

量子化とは、モデルの重みを表す数値の精度を落として、ファイルサイズとメモリ使用量を圧縮する技術です。ローカルLLMで広く使われるのが GGUF という形式で、その中でも Q4_K_M は品質とサイズのバランスが良く、事実上の標準になっています。fp16（16ビット）を4ビット相当まで圧縮するため、メモリを約4分の1に減らせます。

モデルの重みが占めるメモリは、単純に「パラメータ数 × 1つあたりのバイト数」で計算できます。7Bモデルを fp16（1パラメータ2バイト）で動かすなら 7×2＝14GB、Q4_K_M ならおよそ4.2GBという具合です。

ここで見落とされがちなのがKVキャッシュです。これは過去のトークンの計算結果を保持する領域で、文脈（コンテキスト）が長くなるほど比例して膨らみます。容量は「2 × レイヤー数 × KVヘッド数 × ヘッド次元 × トークン数 × 1要素あたりのバイト数」で概算できます。GQA（Grouped-Query Attention: グループ化クエリアテンション）を採用した Llama 3 系の70Bモデル（80層、KVヘッド8、ヘッド次元128、fp16）なら、2000トークンでおよそ0.6GB、128Kトークンまで伸ばすと約40GBに達します。GQAを使わない古い設計ではこの数倍になる点にも注意が必要です。

つまり、パラメータ数だけでなく「どれだけ長い文脈を扱うか」がメモリに載るかどうかを左右します。長文処理を安定させる位置エンコーディングの研究も進んでおり、たとえばMöbius RoPEのような手法が長い文脈での検索精度を改善しています。

3大ツールを徹底比較

ローカルLLMを動かすためのソフトは複数ありますが、2026年時点で主流なのが Ollama、LM Studio、vLLM の3つです。それぞれ得意分野が異なるため、目的に合わせて選ぶことが大切です。

性能差でよく引用されるのが、Red Hat が2025年8月に公開した A100（40GB）上での Llama 3.1-8B ベンチマークです。多人数が同時にアクセスする条件では vLLM が毎秒793トークン、Ollama が毎秒41トークンと大きな差が出ました。ただし利用者が1人だけの場合は、どちらも毎秒130から180トークン程度でほぼ同等です。差が開くのは同時アクセス時であり、個人利用なら手軽な Ollama で不足を感じることはまずありません（出典: Digital Applied のまとめ）。

Ollamaの始め方

まずは最も手軽な Ollama から始めるのがおすすめです。公式サイトからインストーラーを入れれば、あとはターミナルでコマンドを打つだけでモデルが動きます。

# モデルをダウンロードして対話を開始する
ollama run gemma3:4b

# ダウンロードだけ先に済ませておく
ollama pull qwen3:8b

# OpenAI 互換の API サーバーとして起動（11434番ポート）
ollama serve

Ollama の大きな利点は、OpenAI 互換のAPIを備えている点です。既存のアプリで API の接続先を手元の Ollama に差し替えるだけで、そのままローカルモデルへ切り替えられます。Mac では従来の llama.cpp ではなく MLX を使う構成に変わり、Apple Silicon 上での速度も向上しています。

LM Studioの使い方

コマンド操作に不慣れな場合は、GUI（画面操作）で完結する LM Studio が向いています。アプリを起動すると、モデルの検索画面から使いたいモデルを選んでダウンロードでき、チャット画面ですぐに試せます。どのモデルが自分のPCで動くかを、必要メモリの表示付きで確認できるのも初心者にやさしいところです。

2025年7月からは商用利用も無料になり、社内の小規模サーバーで使いやすくなりました。ヘッドレスで動く常駐機能も備えているため、GUIで試してからサーバー用途へ展開する流れも取りやすくなっています。

2026年のモデル選び

ツールが決まったら、次はどのモデルを動かすかです。2026年は、単一GPUでも動く高性能なオープンモデルが一気に充実しました。代表的な選択肢を整理します。

特に Gemma 3 の27B版は、単一GPUで動きながら Chatbot Arena の人手評価で Llama 3 の405Bや DeepSeek-V3 を上回るとされ、コストパフォーマンスの高さが際立ちます。OpenAI の gpt-oss は、20Bと120Bの2種類が Apache 2.0 ライセンスで公開されており、MoE（Mixture of Experts: 混合エキスパート）によって全パラメータのうち実際に計算に使う部分を絞る設計です。gpt-oss-20b は21B規模でアクティブは約3.6B、gpt-oss-120b は117B規模でアクティブは約5.1Bと、見かけの大きさよりも軽く動きます。

最初の1本としては、8GBから16GBのVRAMで快適に動く Gemma 3 の4Bや12B、あるいは Qwen3 の8Bあたりが扱いやすく、日本語の応答品質も安定しています。

どれを選ぶべきか

選び方の指針をまとめます。まずツールは、手早く試したい個人開発なら Ollama、画面操作で分かりやすく使いたいなら LM Studio、複数人で同時に使う本番環境なら vLLM が基本です。単一ユーザーの速度はどれもほぼ変わらないため、最初は Ollama か LM Studio で十分といえます。

モデルは、手持ちのVRAMに Q4_K_M 量子化の重みが収まるサイズを選び、扱いたい文脈の長さも踏まえてメモリに余裕を持たせるのがコツです。まずは小さめのモデルで動作を確かめ、必要に応じて規模を上げていく進め方が失敗しにくく、ローカルLLMのメリットを最大限に引き出せます。

Run Local LLMs in 2026: Ollama vs LM Studio vs vLLM

Ollama, LM Studio, llama.cpp, vLLM and MLX compared for running local LLMs in 2026 — picking the right runtime for your chip and your workload.

digitalapplied.com