この1年でAIは驚くほど賢くなったと思います。自分は普段Claudeを使っていますが、ChatGPTも同じくらいの賢さがあるようです。Geminiは忖度するせいかどうかよくわかりませんが、ClaudeとChatGPTと比べれば、見劣りします。日頃、仕事で3者を使っていて感じる、個人的な評価ではありますが。

Anthropic社

Claude Opus 5.5 2026年9月22日リリース。

Claude Fable 5.1 2026年9月1日リリース。

Claude Opus 5 2026年7月23日リリース。

Claude Opus 4.8 2026年5月28日リリース。

Claude Opus 4.7 2026年4月16日リリース。

Claude Opus 4.6 2026年2月5日リリース。

 

OpenAI社

GPT-6.1 Sol

GPT-6 2026年9月4日リリース（一般、有料ユーザー）

GPT-5.6 2026年7月4日リリース。

 

Google DeepMind社

Gemini 4 Argon 2026年9月30日発表。

Gemini 3.8 Flash  2026年9月2日リリース。

Gemini 3.1 Pro 2026年2月リリース。

Gemini 3 Pro 2025年11月25日リリース。

最新のAIは非常に賢くて、自分も普段、仕事で使っています。ところが、これらとは別に、ローカルに自分のPCにダウンロードして使う無料のLLMというものも存在しています。「賢さ」という点では、Claude、ChatGPT、Geminiの最新版とは比較にならないと思いますが、それでも十分実用性があるところまで進化してきているようです。ローカル環境で使える最大のメリットは、機密情報が外に漏れる恐れがないという点です。クラウドのAIに自分の「人には絶対に知られたくない情報」を投げて処理させるのは、漏洩リスクがあります。いくら、学習には使わせない設定をしたところで、万が一漏洩してしまうようなことがあったら困ります。それに対して、ローカルにダウンロードして使うAIであれば、自分のPCという閉じた環境で使えるので、PCがハックされない限り外に情報が漏れ出る恐れはありません。

オープンソースLLMとクラウドAIの性能は比べるべくもないとは思いますが、それでも、比較してみるという検証実験が多少の意味を持つ程度にまでオープンソースLLMの性能が上がってきているようです。

アリババ社Qwen 3.8

• Qwen 3.8 vs. Claude Opus 5: Which Model Builds Better Software? Stanley Ulili Updated on August 24, 2026

Google DeepMind社Gemma 4

• Gemma 4 26B A4B (Reasoning) vs. Claude Opus 4.5 (Non-reasoning) 

Z.ai社GLM-5.3-Flash

• GLM-5.3-Flash/GLM-5.3-FlashX is the first native multimodal model in the GLM-5 series, delivering stronger intelligence than GLM-5.2 at an exceptionally low cost.

オープンソースのLLMをローカルで試すためには、試したいLLMが収まる大きさのGPUももしくはUnifiedメモリが必要になります。多くの場合、それは非常に効果で個人の予算で手が出るものではありません。研究者が研究費を得た場合に、手が届く可能性が出てくるくらいの価格でしょう。しかし、ローカルLLMといってもクラウド上でその性能を試すことができますので、高価なGPUが手元にないと性能の検証ができないということではありません。

実務に必要な賢さを備えているLLMかどうかをクラウド上で確認したうえで、そのLLMを動かすことができるハードウェアを頑張って予算を取って購入するという手順が良いのではないでしょうか。

• Hugging Face Inference API、Replicate、Together AI、Groq などのクラウドAPIサービスを利用すると、サーバーの構築やハイスペックなPCを用意しなくても、API経由でLlamaやMistralなどのオープンソースLLMをすぐに実行できます。
• クラウドで試すメリット： 高価なGPU（グラフィックボード）を積んだパソコンがなくても、最新の大規模なオープンソースLLMを高速にテストできます。

（AIによる概要「オープンソースLLMはクラウドAIでも試せる」）

ローカルLLMのPC選び：「載る容量」と「使える速度」

ローカルでLLMを動かすPCを選ぶとき、有力な選択肢は、CPUとGPUがメモリを共有するユニファイドメモリ機と、GPUが専用メモリ（VRAM）を持つ独立GPU搭載機です。ユニファイドメモリ機にもGPUがあるため、違いはGPUの有無ではなく、メモリの構造にあります。

大きなモデルを比較的低予算で動かしたいなら、ユニファイドメモリ機は有力です。 128GB構成のMac Studioや、128GBの共有メモリを持つNVIDIA DGX Sparkなどが、その選択肢になります。 一方、96GBの専用VRAMを搭載するRTX PRO 6000 Blackwellは、国内販売例でGPU単体が約260万円です。本体や周辺構成を加えれば、ワークステーション全体で300万～400万円程度という予算感も考えられます。ただし、これは特定の高性能GPUを選んだ場合の話であり、GPU搭載PC全般の価格ではありません。

ここで注意したいのは、搭載メモリ容量と、モデルに使える容量は同じではないことです。ユニファイドメモリはOSやほかのアプリも使います。さらにLLMの実行には、モデルの重みに加え、入力・生成した文章の情報を保持する「KVキャッシュ」や作業領域が必要です。したがって、128GB機に128GBのモデルがそのまま載るとは限りません。

必要な容量は、パラメータ数だけでなく、数値を少ないビット数で表す「量子化」によっても変わります。例えば700億パラメータの重みは、16ビットなら単純計算で約140GB、4ビットなら約35GBです。実際には管理情報などが加わり、量子化による精度への影響もモデルや方式によって異なります。

また、モデルが大きいほど、あらゆる課題で賢いとは限りません。 そして最も重要なのは、「メモリに載る」と「実用的な速度で動く」は別だということです。 速度はメモリ帯域幅、演算性能、モデル構造、実行ソフト、入力の長さなどで変わります。同じ128GBでも性能は同じではなく、高性能な専用GPUの価格には、容量以外の処理能力も含まれています。

なお、96GBはそのGPU一枚の容量であって、GPU方式全体の上限ではありません。対応ソフトで複数GPUに分散したり、CPU側のメモリを併用したりする方法もありますが、追加費用や速度低下を考慮する必要があります。

購入時は、容量だけでなく、使いたいモデル・量子化・入力長をそろえた実測速度を確認しましょう。長い文書を扱うなら、回答の生成速度に加えて、入力を読み終えるまでの時間も重要です。

(自分が書いた原稿をGTP-6.1 Solで修正)

 

ユニファイドメモリのPC

参考

1. Best Local LLM Tools and Models in 2026: What Fits in 128GB Updated October 5, 2026　https://pinggy.io/blog/top_5_local_llm_tools_and_models/