IBM Granite 4.2の3B・8B・30Bの違い【ローカルAI初心者のモデル選び】

IBM Granite 4.2の3B・8B・30Bで迷ったら、最初は3BのQ4_K_Mを試すのが堅実です。3Bで必要な品質が出なければ8Bへ進み、複雑な推論やコーディングを優先し、十分な実行余力も確保できる場合に30Bを検討します。

ただし、ダウンロードファイルの容量だけで端末を選ぶと失敗します。
モデル本体の容量と、実行中に必要なメモリは同じではありません。この記事では、2026年8月27日時点のIBMとHugging Faceの公式情報を基に、初心者がダウンロード前に判断できる形へ整理します。

Granite 4.2の3B・8B・30Bは迷ったら3Bから

3Bを先に試す理由は、導入の可否と品質不足を切り分けやすいからです。
最初から30Bを選ぶと、モデルが重いのか、設定が合わないのか、用途との相性が悪いのかを判断しづらくなります。

ローカルAIを会社で使う目的自体が固まっていないなら、モデル比較の前にローカルLLMとクラウドAIの導入判断を確認してください。
機密性、運用担当、更新管理まで含めた判断が先に必要です。

Granite 4.2の共通仕様と3モデルの違い

Granite 4.2は、IBMが2026年8月25日にリリースしたdense型のオープンモデルです。
3B・8B・30Bはいずれもreasoning、tool calling、thinking、non-thinking、low-effortに対応し、Apache 2.0で提供されています。

出典: IBM Research「Introducing Granite 4.2」

3Bでも推論とツール呼び出しを使えます。
一方、IBMの技術解説では、エージェント型ワークフローを強化するagentic reinforcement learningは8Bと30Bに追加されており、3Bに同じ学習追加があるとは読めません。

つまり、違いは機能の有無だけではなく、モデル規模と学習工程、そこから生まれる用途の重心にあります。
IBMは小さいモデルを高い処理量が必要な用途、大きいモデルを複雑な推論やコーディングの候補として説明していますが、すべての仕事で大きいモデルが最適とは限りません。

出典: IBM Granite technical blog「Granite 4.2」

小型オープンモデルの位置づけを先に理解したい場合は、Apache 2.0でローカル運用できる小型AIの意味も判断材料になります。

Granite 4.2のモデルサイズと公式GGUF容量を比較

初心者が最初に見るべき数字は、Q4_K_Mの公式GGUF容量です。
GGUFはローカル実行で広く使われるファイル形式で、Q4_K_Mはモデルを圧縮して扱いやすくした量子化版です。

3B・8B・30Bの容量比較

モデル	総パラメータ	Q4_K_M	BF16
3B	約36.6億	約2.24GB	約7.32GB
8B	約87.9億	約5.35GB	約17.6GB
30B	約292.8億	約17.7GB	約58.6GB

表の容量はダウンロードするモデル本体の大きさです。
実行時には、モデル本体に加えて、会話履歴を保持するKVキャッシュ、ランタイム、OS、ほかのアプリのメモリも使います。

3B出典: IBM Granite 4.2 3B GGUF公式ファイル

8B出典: IBM Granite 4.2 8B GGUF公式ファイル

30B出典: IBM Granite 4.2 30B GGUF公式ファイル

端末メモリからモデルサイズを選ぶ目安

端末メモリ別の最初の候補は、8GB級なら3B、16GB級なら3Bまたは8B、32GB級でも30Bは余力を確認です。
これはIBMの動作保証値ではありません。公式Q4_K_M容量から検証を始めるための編集上の目安です。

特に30BのQ4_K_Mは本体だけで約17.7GBあるため、メモリ32GBだから余裕で動くとは限りません。
長い入力を使うほどKVキャッシュも増えるので、空きメモリと応答速度を実行環境で確認します。

モデルが小さくても、入力データやツール権限の管理は必要です。
社内利用まで進める場合は、小型AIモデルのリスクと利用範囲も同時に決めてください。

Granite 4.2の128K・512Kを使う前の注意

Granite 4.2のネイティブコンテキスト長は131,072トークンで、技術解説では512Kまでの拡張が示されています。
コンテキスト長は、生成AIが一度に読み込んで参照できる範囲です。

長文を扱うほど性能が上がるわけではありません。不要な文書を混ぜれば回答の焦点もぼやけます。
必要な資料だけを入れ、質問と評価条件を固定するほうが、モデルサイズの差を見極めやすくなります。

3Bから8B・30Bへ上げる判断条件

モデルを上げるのは、同じ課題で品質不足が繰り返し確認できたときです。
モデル名を変えるたびに質問や資料も変えないでください。改善がモデル差なのか入力差なのか分からなくなります。

• 代表タスクを3つ固定する。要約、社内文書の検索、コード修正など、実際に使う仕事で比べる
• 合格条件を先に決める。事実誤り、指示漏れ、待ち時間、メモリ使用量を同じ表で記録する
• 3Bから1段だけ上げる。8Bで不足が解消したなら、30Bまで上げる必要はない
• thinkingとlow-effortも比べる。モデル変更前に、同じモデルの応答モードで改善するか確認する

この比較は、モデル更新前後の品質テストと同じ考え方で進められます。
モデル選定を製品名だけで決めず、業務ごとに候補を分ける場合は社内で決めるAIツール選定の基準も参考になります。

Granite 4.2のよくある質問

まとめ｜Granite 4.2はファイル容量と実行余力で選ぶ

Granite 4.2のモデル選びとは、公式GGUFのファイル容量を入口に、端末の実行余力と実務タスクの品質を同じ条件で確かめる判断プロセスです。3Bから始め、足りない理由が確認できたときだけ8B、30Bへ上げると、過剰な端末負荷と比較の迷走を避けられます。