モデル
Qwen3.8 27Bのローカル実行要件
Alibaba Cloud · Apache 2.0 · 最終確認
Qwen3.8 27BはDenseモデルなので、量子化後も27B分の重みを保存する必要があります。小さなアクティブ経路だけを載せるMoEとは違い、容量の見積もりが重要です。
このモデルについて
24GB GPUでは量子化とコンテキスト次第でぎりぎり、32GB以上なら選択肢が増えます。長いコンテキストを有効にするとKVキャッシュがさらに増えます。
公開量子化ファイル
| 推奨量子化 | 重みファイル | 8K | GPU | Mac | 最小GPU／Macでのコンテキスト | 速度推定 | 実行コマンド例 |
|---|---|---|---|---|---|---|---|
| Q4_K_M | 17.39 GB | 19.4 GB | NVIDIA GeForce RTX 4090 24GB | Apple Mac mini M4 24GB | 77,937 / 77,937 | 推定 · Heavy relative class | ollama run qwen3.8:27b-q4_K_Mlms get "Qwen3.8 27B"@q4_k_m |
| Q8_0 | 29.98 GB | 32.0 GB | NVIDIA RTX 6000 Ada 48GB | Apple Mac mini M4 Pro 48GB | 252,137 / 252,137 | 推定 · Heavy relative class | ollama run qwen3.8:27b-q8_0lms get "Qwen3.8 27B"@q8_0 |
代表的なマシンでの互換性
NVIDIA GeForce RTX 4090 · 24 GB · 24 GB VRAM · 8,192 トークン
At least 20% memory headroom remains after weights, KV cache, and runtime overhead.
実行コマンド例
ollama run qwen3.8:27b-q4_K_Mlms get "Qwen3.8 27B"@q4_k_m
lms load <model-key-from-lms-ls> --gpu max --context-length 8192llama-cli -hf Qwen/Qwen3.8-27B -c 8192 -ngl 99 -p "Your prompt"mlx_lm.generate --model Qwen/Qwen3.8-27B --prompt "Your prompt" --max-tokens 8192対応ランタイム
- ollama
- llama.cpp
- mlx
- vllm
FAQ
ダウンロード前に
Qwen3.8 27Bの最小ファイルサイズは？
公開されている最小の量子化はQ4_K_Mで、約17.39GBです。実行時にはKVキャッシュと約1.5GBのオーバーヘッドも必要です。
MoEはメモリを節約しますか？
MoEは1トークンあたりの計算量を減らせますが、重み全体は保存する必要があります。このモデルはDenseなので、すべての重みが常に必要です。
購入前に何を確認すべき？
実際に使う量子化、コンテキスト長、バックエンドの対応状況を確認してください。このページの推定はベンチマークではなく、公開データに基づく保守的な計算です。
Qwen3.8 27Bを8Kで快適に動かせるGPU／Macは？
Q4_K_Mは約19.4GB必要で、最小候補はNVIDIA GeForce RTX 4090 24GB／Apple Mac mini M4 24GBです。 Q8_0は約32.0GB必要で、最小候補はNVIDIA RTX 6000 Ada 48GB／Apple Mac mini M4 Pro 48GBです。
収まらない場合、何を試すべき？
まず最小量子化と短いコンテキストを選びます。それでも不足する場合は、gpt-oss-20b、Qwen3.6 35B-A3B、Gemma 4 12B Unifiedなど小さいモデルと比較してください。外部SSDは保存には使えますが、推論メモリは増えません。