ローカルLLM向けPC・ハードウェア選びガイド：用途とモデルサイズから選ぶ

ChatGPTやClaudeのようなクラウドのAIではなく、自分の手元のPCやMacの中だけでLLM（大規模言語モデル）を動かす「ローカルLLM」に関心を持つ人が増えています。Ollamaやllama.cppといったツールで、Llama 3.1やQwen2.5などのオープンモデルを、月額料金もインターネット接続もなしに動かせるようになったためです。機密情報を外に出さずに済む、使い放題で試せる、といった利点があります。

一方で最初につまずくのが「では、どのハードを買えばいいのか」という問いです。クラウドと違い、ローカルではモデルを丸ごと自分のメモリに載せる必要があり、ここが性能とコストの分かれ目になります。この記事では、想定する用途とモデルサイズから、Mac・NVIDIA GPU搭載PC・高メモリPCのどれをどの構成で選べばよいかを、2026年7月12日時点の情報で整理します。チップごとのメモリ帯域幅の技術的な違いは、アクセスの多い分析記事「AppleシリコンとNVIDIA GPUのメモリ帯域幅比較」で詳しく扱っているので、本記事は「何を買うべきか」に絞ります。

ローカルLLMで一番大事なのは「メモリ容量」

ローカルLLMの動作を左右する要素は主に2つあります。1つはモデルを丸ごと載せられる メモリの容量、もう1つは載せたデータを高速にやり取りする メモリ帯域幅 です。

順番としては容量が先です。モデルがメモリに載りきらないと、そもそも快適に動きません。GPUのVRAMに載りきらなければシステムメモリやストレージにあふれ、速度が一気に落ちます。まず「使いたいモデルが載る容量」を確保し、その上で「どれだけ速く動くか」を帯域幅で考える、という二段構えで選ぶのが基本です。

ここで効いてくるのが 量子化 です。量子化は、モデル内部の数値の精度をあえて落として、必要なメモリと計算量を削る技術です。元の16bit（FP16）精度では1B（10億）パラメータあたり約2GBのメモリが必要ですが、広く使われる4bit（Q4）量子化なら1Bあたり約0.5〜0.6GBまで下げられ、品質の低下を抑えつつ必要メモリを大幅に減らせます。量子化の仕組みは「モデルの軽量化とは？蒸留と量子化の違い」で解説しています。以下の必要メモリは、実際に使われることの多いQ4量子化を基準にしています。

モデルサイズ別の必要メモリ早見表

モデルの大きさは「7B」「70B」のようにパラメータ数（Bは10億）で表されます。この数字が何を意味するかは「パラメータ数とは？「7B」「70B」が表すAIの大きさ」にまとめています。ここでは、代表的なオープンモデルのQ4量子化での実ファイルサイズを基準に、快適に動かすための目安メモリを整理します。ファイルサイズはOllama公式ライブラリの実際のダウンロードサイズです¹²。

クラス	代表モデル	Q4のファイルサイズ	推奨メモリ（RAM/VRAM）
7〜8B	Llama 3.1 8B / Qwen2.5 7B	4.7〜4.9GB¹²	8GB（最低）〜16GB（快適）
13〜14B	Qwen2.5 14B	9.0GB²	16GB
30〜34B	Qwen2.5 32B	20GB²	24〜32GB
70〜72B	Llama 3.1 70B / Qwen2.5 72B	43〜47GB¹²	48〜64GB以上

推奨メモリがファイルサイズより大きいのは、実行時にモデル本体（重み）に加えて、会話の履歴を保持するコンテキスト（KVキャッシュ）とツールの動作分の余裕が必要になるためです。長い文章を扱うほどこの余裕が増えます。

より高い精度で動かしたい場合は必要メモリも増えます。FP16では8Bクラスでも約16GB、70Bクラスなら約140GB相当が必要になり、コンシューマ機で扱うのは現実的ではありません。ローカルで大きめのモデルを動かすなら量子化がほぼ前提になります。まずどのくらいのモデルを日常的に使いたいかを決め、その1〜2段上まで載る容量を目標にするとよいでしょう。

2つの道：Macのユニファイドメモリか、NVIDIAの専用VRAMか

ローカルLLM向けのハードは、大きく分けてAppleシリコンのMacと、NVIDIA GPUを積んだWindows/Linux PCの2つに分かれます。両者はメモリの持ち方が根本的に違い、これが選び方を決めます。

Macのユニファイドメモリ は、CPUとGPUが同じメモリプールを共有する方式です。例えば64GBのMacなら、その大部分をLLMに割り当てられます。つまり「メモリ容量＝そのまま載せられるモデルの上限」に近く、大きなモデルを1台で動かしやすいのが強みです。加えて消費電力が小さく静かで、追加の電源やケースも要りません。

NVIDIAの専用VRAM は、GPUボード上のメモリだけがLLMの実行に使われます。VRAMの帯域幅はMacより大きく、同じモデルなら生成が速い傾向があります。CUDAという開発基盤が事実上の標準で、多くのAIツールが最適化されている点も有利です。この優位性の背景は「NvidiaのGPU優位性」で触れています。一方で弱点は容量で、コンシューマ向け最上位のRTX 5090でも32GBです³⁴。それを超えるモデルを動かすにはGPUを複数枚挿すことになり、価格・電力・設置スペースのハードルが上がります。

判断軸を整理すると次のようになります。大きなモデル（70Bクラス）を1台で動かしたい・省電力で静かに使いたい ならMacのユニファイドメモリが向きます。生成速度を最優先したい・ゲームや画像/動画生成も兼ねたい・すでにWindows/Linux環境がある ならNVIDIA GPUが向きます。帯域幅の具体的な数値比較（M4 Maxの546GB/s、RTX 5090の1792GB/sなど）は帯域幅比較記事を参照してください。

価格帯別のおすすめ構成（2026年7月12日時点）

以下は2026年7月12日時点の公式・報道情報に基づく価格の目安です。後述するとおり、この時期はメモリ価格の高騰で価格・構成が動きやすいため、購入前に最新の販売ページを確認してください。

まず試したい：ソフトだけで無料、または〜16GBクラス

ハードを買う前に、いま持っているPCで試すのが確実です。8GBのメモリがあれば7〜8Bクラスのモデルは動きます。手持ちのマシンで感触を確かめたいだけなら、ブラウザだけでLLMを動かす「WebLLM」のような選択肢もあります。

これから買い足すなら、16GBメモリのMac miniや一般的なノートPCが入門ラインです。Mac miniのM4（メモリ帯域幅120GB/s）は基本モデルが799ドルからで⁵、7〜14Bクラスを日常使いする用途に収まります。

中位：13〜34Bを快適に動かす

もう一段上のモデルを狙うなら、24〜48GBのメモリを確保します。デスクトップでは、Mac mini M4 Pro（帯域幅273GB/s、最大48GBに構成可能）が開始価格1,599ドルで⁵⁶、省電力で扱いやすい選択肢です。

NVIDIA側では、16GBのVRAMを持つRTX 5080（MSRP 999ドル）やRTX 5070 Ti（MSRP 749ドル）が中位の目安です⁴。予算を抑えるなら16GB版のRTX 5060 Ti（MSRP 429ドル）やRTX 4060 Ti 16GB版（MSRP 499ドル）もありますが、これらは128bitバスで帯域幅が控えめ（それぞれ448GB/s、288GB/s）なので、容量は足りても速度は上位カードに譲ります⁴⁷¹⁰。VRAMが16GBだと32Bクラスはあふれ気味になるため、その帯を安定して動かしたいならMacの24〜32GB構成のほうが素直です。

ハイエンド：70Bクラスを1台で

43〜47GB級の70Bモデルを1台で動かすなら、大容量のユニファイドメモリを持つMacが最も現実的です。Mac Studio M4 Max（帯域幅410〜546GB/s、最大64GB）は開始価格2,499ドル、さらに上のM3 Ultra（帯域幅819GB/s、標準96GB）は5,299ドルです⁸。持ち運びたい場合は、128GBのユニファイドメモリに対応するM5 Max搭載のMacBook Proという道もあります。16インチのM5 Proモデルは2,699ドルからですが、128GBメモリに対応するのは上位のM5 Maxのみで、大容量メモリ構成にすると価格は大きく上がります⁹。

NVIDIAで70Bを狙う場合、単体では最上位のRTX 5090でも32GBのため足りず、24GBのRTX 4090や32GBのRTX 5090を複数枚束ねる構成になります³⁴⁷。速度は魅力ですが、価格・消費電力・設置の負担が大きく、1台完結を重視するなら高メモリのMacに分があります。

2026年ならではの注意点：メモリ高騰と価格の変動

いま特に気をつけたいのが、部品価格の高騰です。AIデータセンター向けの需要でメモリ・ストレージのチップが逼迫し、その影響がコンシューマ機にも及んでいます。Appleは2026年6月に幅広いMacを値上げし、Mac mini M4 Proは2024年10月の1,399ドルから1,599ドルへ引き上げられました⁵。同社は値上げの理由について、これほど急激な部品の値上がりは見たことがないと説明しています⁵。

影響はメモリの選択肢そのものにも及んでいます。かつてローカルLLMの本命だったMac Studioの256GB・512GBといった超大容量構成は、RAM不足を理由に2026年3月・5月に販売終了となり、2026年7月時点ではM4 Maxが最大64GB、M3 Ultraが最大96GBに縮小しています⁸。「巨大なMacを1台買えば何でも載る」時代が一時的に狭まっている点は、購入計画に織り込んでおくべきです。

NVIDIA側も同様で、RTX 5090のMSRPは1,999ドルですが⁴、実売はそれを大きく上回る状態が続いています。GPUを検討する場合は、MSRPではなく実際の店頭価格で予算を組むのが安全です。

こうした事情から、購入時期を急がないなら「必要なモデルサイズが載る最小限の構成」を見極め、価格が落ち着くタイミングを待つのも一つの判断です。逆にいますぐ必要なら、Macは省電力・大容量で1台完結しやすく、NVIDIAは速度と汎用性で勝る、という基本的なすみ分けは変わりません。手持ちのマシンで小さなモデルから試し、用途が固まってから容量に投資するのが、無駄の少ない進め方です。