AIはどれが一番賢いの？自分のPCに入るローカルLLMは？

この1年でAIは驚くほど賢くなったと思います。自分は普段Claudeを使っていますが、ChatGPTも同じくらいの賢さがあるようです。Geminiは忖度するせいかどうかよくわかりませんが、ClaudeとChatGPTと比べれば、見劣りします。日頃、仕事で3者を使っていて感じる、個人的な評価ではありますが。

Anthropic社

Claude Opus 5.5 2026年9月22日リリース。

Claude Fable 5.1 2026年9月1日リリース。

Claude Opus 5 2026年7月23日リリース。

Claude Opus 4.8 2026年5月28日リリース。

Claude Opus 4.7 2026年4月16日リリース。

Claude Opus 4.6 2026年2月5日リリース。

 

OpenAI社

GPT-6.1 Sol

GPT-6 2026年9月4日リリース（一般、有料ユーザー）

GPT-5.6 2026年7月4日リリース。

 

Google DeepMind社

Gemini 4 Argon 2026年9月30日発表。

Gemini 3.8 Flash  2026年9月2日リリース。

Gemini 3.1 Pro 2026年2月リリース。

Gemini 3 Pro 2025年11月25日リリース。

自分が普段、仕事で使っているクラウドのAIとは別に、ローカルに自分のPCにダウンロードして使う無料のLLMというものも存在しています。「賢さ」という点では、Claude、ChatGPT、Geminiの最新版とは比較にならないと思いますが、それでも十分実用性があるところまで進化してきているようです。ローカル環境で使える最大のメリットは、機密情報が外に漏れる恐れがないという点です。クラウドのAIに自分の「人には絶対に知られたくない情報」を投げて処理させるのは、漏洩リスクがあります。いくら、学習には使わせない設定をしたところで、万が一漏洩してしまうようなことがあったら困ります。それに対して、ローカルにダウンロードして使うAIであれば、自分のPCという閉じた環境で使えるので、PCがハックされない限り外に情報が漏れ出る恐れはありません。

オープンソースLLMとクラウドAIの性能は比べるべくもないとは思いますが、それでも、比較してみるという検証実験が多少の意味を持つ程度にまでオープンソースLLMの性能が上がってきているようです。

アリババ社Qwen 3.8

Google DeepMind社Gemma 4

Z.ai社GLM-5.3-Flash

ollamaのサイトを見るとクラウド版しかないようですが、モデルのウェイト（重みデータ）自体はMITライセンスでHugging Face上に一般公開されています。そのため、適切な手順を踏めば完全なオフライン・ローカル環境で動かすことができます。

 

オープンソースのLLMをローカルで試すためには、試したいLLMが収まる大きさのGPUももしくはUnifiedメモリが必要になります。多くの場合、それは非常に効果で個人の予算で手が出るものではありません。研究者が研究費を得た場合に、手が届く可能性が出てくるくらいの価格でしょう。しかし、ローカルLLMといってもクラウド上でその性能を試すことができますので、高価なGPUが手元にないと性能の検証ができないということではありません。

実務に必要な賢さを備えているLLMかどうかをクラウド上で確認したうえで、そのLLMを動かすことができるハードウェアを頑張って予算を取って購入するという手順が良いのではないでしょうか。

  • Hugging Face Inference API、Replicate、Together AI、Groq などのクラウドAPIサービスを利用すると、サーバーの構築やハイスペックなPCを用意しなくても、API経由でLlamaやMistralなどのオープンソースLLMをすぐに実行できます。
  • クラウドで試すメリット： 高価なGPU（グラフィックボード）を積んだパソコンがなくても、最新の大規模なオープンソースLLMを高速にテストできます。

（AIによる概要「オープンソースLLMはクラウドAIでも試せる」）

ローカルLLMのPC選びで考慮すべき「載る容量」と「使える速度」

ローカルでLLMを動かすPCを選ぶとき、候補は大きく二つに分かれます。CPUとGPUが一つのメモリを共有する「ユニファイドメモリ機」と、GPUが専用のメモリ（VRAM）を持つ「独立GPU搭載機」です。ユニファイドメモリ機にもGPUは載っているので、両者の違いはGPUの有無ではなく、メモリの持ち方にあります。

大きなモデルを比較的少ない予算で動かしたいなら、ユニファイドメモリ機が有力です。128GB構成のMac Studioや、128GBの共有メモリを備えたNVIDIA DGX Sparkがその代表例でしょう。これに対し、96GBの専用VRAMを積むRTX PRO 6000 Blackwellは、国内の販売例でGPU単体が約260万円です。本体や周辺機器を含めると、ワークステーション全体で300万～400万円ほどを見込むことになります。もっとも、これは最上位クラスのGPUを選んだ場合の話で、GPU搭載PCがすべてこの価格帯というわけではありません。

「128GB」がまるごと使えるわけではない

気をつけたいのは、搭載メモリの容量がそのままモデルに使えるわけではない点です。ユニファイドメモリはOSやほかのアプリとも共有されます。さらにLLMを動かすには、モデルの重みだけでなく、入力や生成した文章の情報を保持する「KVキャッシュ」や作業用の領域も必要です。つまり、128GBの機械に128GBのモデルがそのまま載るとは限りません。

必要な容量は、パラメータ数に加えて「量子化」、つまりモデルのパラメータ（重み）の数値を少ないビット数で表現する手法によっても大きく変わります。たとえば700億パラメータのモデルなら、重みだけで単純計算すると16ビットで約140GB、4ビットで約35GBです。実際には管理情報などが上乗せされますし、量子化で精度がどの程度落ちるかもモデルや方式によって異なります。

「載る」と「実用的な速さで動く」は別の話

そもそも、モデルは大きければどんな課題でも賢いというものではありません。そして何より大切なのは、「メモリに載る」ことと「実用的な速度で動く」ことはまったく別だという点です。速度は、メモリ帯域幅や演算性能、モデルの構造、実行ソフト、入力の長さなど、さまざまな要因で決まります。同じ128GBでも性能は横並びではありません。高性能な専用GPUの価格には、容量だけでなく、こうした処理能力の分も含まれているのです。

なお、96GBはあくまでGPU一枚あたりの容量で、GPU方式そのものの上限ではありません。対応ソフトを使えば、複数のGPUにモデルを分散したり、CPU側のメモリを併用したりすることもできます。ただし、そのぶん追加の費用や速度の低下は考えておく必要があります。

購入前に確かめたいこと

購入前には、容量のスペックだけで判断せず、使いたいモデル・量子化・入力の長さをそろえたうえでの実測速度を確認しましょう。長い文書を扱うつもりなら、回答を生成する速さだけでなく、入力を読み終えるまでの時間も見逃せないポイントです。

(自分が書いた原稿をChatGTP-6.1 Solで修正、Claude Opus 5.5で調整、自分で微調整)

 

ユニファイドメモリのPC

  1. MacBook Pro (apple.com) 1,167,800円（14インチ　標準ディスプレイ　M5 Maxチップ 18コアCPU, 40コアGPU　ユニファイドメモリ 128GB　SSDストレージ 2TB　電源アダプタ 96W USB-C）
  2. NVIDIA DGX Spark (価格.com) 最安価格1,133,000円 メモリ容量128GB OS NVIDIA DGX OS ストレージ容量 M.2 SSD：4TB

GPUのみ

  1. NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition (価格.com）　最安価格2,498,000円　メモリGDDR7　96GB　消費電力 300 W

 

参考

  1. Best Local LLM Tools and Models in 2026: What Fits in 128GB Updated October 5, 2026　https://pinggy.io/blog/top_5_local_llm_tools_and_models/
  2. GLM-5.3-Flash: How to Run Locally Run the new GLM-5.3-Flash aka ox-alpha model by Z.ai.　https://unsloth.ai/docs/models/glm-5.3-flash
Bookmark this on Hatena Bookmark
LINEで送る