Kimi K3を自前で動かすには何が必要？

結論：個人PC向けではないが、自前運用だけが選択肢ではない

Kimi K3の公式ウェイトは1.56TBあり、一般的なPCのGPUメモリには収まりません。本格的なGPU常駐推論には複数の大容量GPUと高速な相互接続が必要です。一方、Moonshot AIはAPIも提供しており、検証段階で高額サーバーを購入する必要はありません。

2.8兆MoEでも毎回2.8兆を計算するわけではない

Kimi K3はMixture of Expertsです。各トークンで896のルーティング対象エキスパートから16を選び、共有エキスパート2つも使います。公式値では活性パラメータは104Bです。計算量を抑えられますが、別のトークンでは別のエキスパートを選ぶため、全重みをどこかの高速メモリまたは階層化ストレージへ置く必要があります。

1.56TBはダウンロード容量で、必要GPUメモリの完成値ではない

単純な容量計算では、141GB HBMのH200を12基集めると約1.69TB、16基なら約2.26TBです。しかし、GPUメモリは重みだけでなく、KVキャッシュ、活性値、通信バッファ、ランタイム、画像エンコーダー、同時実行分にも使います。

H200 12～16基は容量から導いた構成例であり、Moonshot AIが示した最低要件ではありません。12基は重みだけでも余裕が小さく、実用的なコンテキスト長と同時実行数を確保するなら、より多いGPU、CPUオフロード、階層化、別ハードウェアなどの設計が必要です。

利用方法はAPI・クラウド・自前購入の3段階

報道で示される1億～2億円は、特定の完成品サーバーや周辺設備を含む推定です。Moonshot AIの公式価格や必須購入額ではなく、構成、調達時期、為替、保守契約で変わります。

コミュニティ量子化やCPUオフロードは設備の幅を広げますが、速度、精度、画像対応、100万トークン対応が公式ウェイトと同じとは限りません。「起動できる」と「業務速度で提供できる」を分けて評価します。

APIでは思考履歴の引き継ぎに注意

公式モデルカードは、Kimi K3が常にthinkingを有効にし、reasoning_effort にlow、high、maxを指定できると説明しています。複数ターンやツール呼び出しでは、返されたassistantメッセージを reasoning_content と tool_calls を含めてそのまま履歴へ戻す必要があります。

推奨推論エンジンはvLLM、SGLang、TokenSpeedです。エージェント用途ではKimi Code CLIが推奨されています。OpenAI互換・Anthropic互換APIで接続できても、保持すべき思考フィールドとツール仕様は個別に確認します。

「公開ウェイト」は無条件のオープンソースと同じではない

Kimi K3は独自のKimi K3 Licenseです。使用、改変、配布などを広く認める一方、年間売上2000万ドル超のMaaS事業者は商用利用前に別契約が必要です。また、月間1億人超または月間売上2000万ドル超の商用製品・サービスでは、UIに「Kimi K3」を目立つ形で表示する条件があります。

内部利用と、公式製品または認定推論パートナー経由の利用には、この2条件の例外が定められています。採用時はモデルカードだけでなくライセンス原文を法務と確認します。

導入前チェックリスト

1. APIで自社タスクの品質、速度、トークン量を測る。
2. 画像、ツール、100万トークンのうち本当に必要な機能を絞る。
3. 重み、KVキャッシュ、同時実行数を含むメモリ計画を作る。
4. GPU間通信、CPU RAM、NVMe、電力、冷却を見積もる。
5. 独自ライセンスのMaaS・表示条件を確認する。
6. 公式ウェイト、量子化版、APIで同じ評価セットを実行する。
7. 購入費ではなく3年間の総保有コストでAPIと比較する。

関連ページ

確認した公式資料

• Moonshot AI：Kimi K3公式リポジトリ
• Hugging Face：moonshotai/Kimi-K3
• Kimi K3 Technical Report（arXiv）
• Kimi K3 License