はじめに
DeepSeek-AIが2026年、新世代のMoE（混合エキスパート）言語モデル「DeepSeek-V4」シリーズをHugging Faceで公開しました。ProとFlashの2系統4モデルで構成され、いずれも100万トークンのコンテキスト長に対応します。本稿では、アーキテクチャの革新点、ベンチマーク性能、そして実際のセットアップ手順を解説します。
参考記事
- タイトル: DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence
- 著者: DeepSeek-AI
- 発行元: Hugging Face（deepseek-ai/DeepSeek-V4-Pro）
- 発行日: 2026年4月
- URL: https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro
関連記事
要点
- DeepSeek-V4はProとFlashの2系統で、Proは総パラメータ1.6T（活性化49B）、Flashは284B（活性化13B）であり、両モデルとも100万トークンのコンテキストに対応している
- ハイブリッドアテンション機構（CSA+HCA）により、100万トークン処理時のFLOPsをDeepSeek-V3.2比で27%、KVキャッシュを10%に削減している
- Non-think・Think High・Think Maxの3段階推論モードを備え、タスクの複雑度に応じて切り替えが可能である
- コーディングベンチマーク（LiveCodeBench・Codeforces）においてV4-Pro-Maxはトップクラスの性能を記録し、オープンソースモデルとして最高水準に位置づけられている
- MITライセンスで公開されており、モデルウェイトはHugging FaceおよびModelScopeからダウンロード可能である
詳細解説
モデルの概要と構成
DeepSeek-AIが公開したDeepSeek-V4シリーズは、MoE（Mixture-of-Experts：推論時に全パラメータを使わず、入力に応じた一部の「専門家」モジュールだけを活性化するアーキテクチャ）を採用した大規模言語モデルです。ラインナップは以下の4モデルです。
| モデル | 総パラメータ | 活性化パラメータ | コンテキスト長 |
| DeepSeek-V4-Flash-Base | 284B | 13B | 1M |
| DeepSeek-V4-Flash | 284B | 13B | 1M |
| DeepSeek-V4-Pro-Base | 1.6T | 49B | 1M |
| DeepSeek-V4-Pro | 1.6T | 49B | 1M |
BaseモデルとInstructモデルの2種類があり、Instructモデル（末尾に「Base」が付かないもの）はチャット・指示への応答に特化したモデルです。各モデルはFP8およびFP4+FP8の混合精度で公開されており、MoE専門家パラメータにはFP4を、その他の主要パラメータにはFP8を使用しています。事前学習には32兆トークン以上の多様な高品質データが使用されました。
アーキテクチャの3つの革新
DeepSeek-V3.2の実装ガイドでも紹介されたV3.2と比較して、V4では3つの主要なアーキテクチャ改良が加えられています。
1. ハイブリッドアテンション（CSA+HCA）
CSA（Compressed Sparse Attention：スパース性を活用して計算を削減するアテンション）とHCA（Heavily Compressed Attention：さらに強く圧縮したアテンション）を組み合わせたハイブリッド機構です。この設計により、100万トークンのコンテキスト処理時に、DeepSeek-V3.2と比べてFLOPs（浮動小数点演算数：モデルの計算コストの指標）を27%に、KVキャッシュ（アテンション計算の中間状態を保存するメモリ）を10%にまで削減することが可能になりました。
2. Manifold-Constrained Hyper-Connections（mHC）
従来のResidual Connection（残差接続：深い層でも勾配消失を防ぐために、入力を出力に直接足し合わせる仕組み）を強化した技術です。mHCアーキテクチャの詳細は別記事でも解説していますが、V4では正式に本体へ統合されており、層間のシグナル伝播の安定性を高めつつモデルの表現力を維持します。
3. Muon Optimizer
通常のAdamWオプティマイザ（ニューラルネットワークの重みを更新するアルゴリズム）に代わる新しい最適化手法で、より速い収束と高い訓練安定性を実現するとされています。
3段階の推論モード
V4-ProおよびV4-Flashは、タスクの複雑度に応じて3つの推論モードを切り替えられます。
| モード | 特徴 | 主な用途 | 出力形式 |
| Non-think | 高速・直感的な回答 | 日常タスク・低リスクな判断 | </think> サマリー |
| Think High | 論理的分析、より高精度 | 複雑な問題解決・計画立案 | <think> 思考過程 </think> サマリー |
| Think Max | 推論能力を最大限に発揮 | 研究レベルの難問・境界値探索 | 専用システムプロンプト + 思考過程 |
DeepSeek-V4-Pro-Maxはフロンティアモデルとの比較ベンチマークにも登場し、LiveCodeBench（コーディング性能を測る標準的なベンチマーク）で93.5、Codeforcesレーティング（競技プログラミングの難易度評価）で3206を記録しています。これはオープンソースモデルとしては最高水準と言えます。
V4-Flash-Maxは「より大きな思考バジェットを与えた場合、Proに匹敵する推論性能を発揮する」とされており、パラメータ規模が小さい分、純粋な知識問題や最も複雑なエージェントワークフローでやや劣ると考えられます。
前提条件・環境構成
DeepSeek-V4をローカルで実行する前に、以下の環境が必要です。
- Python（パイソン、プログラミング言語）3.x がインストール済みであること
- Hugging Faceのアカウントとアクセストークン（ログイン認証に使うAPIキー）があること
- transformers（トランスフォーマーズ、Hugging Faceが提供するモデル読み込みライブラリ）がインストール済みであること
まず、現在のPythonバージョンを確認します。
# Pythonのバージョンを確認するコマンドです
python --version次に、必要なライブラリをインストールします。
# Hugging FaceのTransformersライブラリをインストールします
pip install transformers注意: 1.6Tパラメータの全重みをローカルに展開するには大容量のGPUメモリが必要です。個人環境での実行が難しい場合は、まずFlashモデル（284B）から試すか、APIアクセスを検討してください。
チャットテンプレートの使い方
このリリースでは標準のJinja形式ではなく、DeepSeek-V4専用のエンコーダーが提供されています。以下は参考記事のサンプルコードをもとにした実装例です。実際に動かすには、まずHugging Faceリポジトリを git clone し、encoding/ フォルダをPythonのパスに追加する必要があります。
# encoding_dsv4モジュールからエンコード・パース関数をインポートします
from encoding_dsv4 import encode_messages, parse_message_from_completion_text
# 会話履歴をOpenAI互換のリスト形式で定義します
# role: 発言者（user=ユーザー、assistant=モデル）
# content: 発言内容のテキスト
# reasoning_content: モデルの思考プロセス（assistantのみ、Thinkモード時に付与される）
messages = [
{"role": "user", "content": "hello"},
{"role": "assistant", "content": "Hello! I am DeepSeek.", "reasoning_content": "thinking..."},
{"role": "user", "content": "1+1=?"}
]
# messagesリストをモデルへの入力文字列（プロンプト）に変換します
# thinking_mode: "thinking"でThink Highモード、"non_thinking"でNon-thinkモードになります
prompt = encode_messages(messages, thinking_mode="thinking")
# transformersライブラリをインポートします
import transformers
# Hugging Faceからトークナイザーを読み込みます
# トークナイザーはテキストをモデルが処理できる数値（トークンID）に変換するツールです
tokenizer = transformers.AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V4-Pro")
# プロンプト文字列をトークンIDのリストに変換します
tokens = tokenizer.encode(prompt)ローカル実行時の推奨設定
ローカルデプロイ（自分のサーバーや環境でモデルを動かすこと）の詳細な手順はリポジトリ内の inference/README.md に記載されています。モデルウェイトの変換方法やインタラクティブなチャットデモの起動方法が説明されています。
テキスト生成時のサンプリングパラメータについては、以下の設定が推奨されています。
# テキスト生成時の推奨サンプリングパラメータ
# temperature: 出力のランダム性を制御（1.0でバランスが良い）
# top_p: 次のトークンを選ぶ際に確率の高い候補を累積確率で絞り込む閾値
# 1.0は全候補を対象にすることを意味します
temperature = 1.0
top_p = 1.0注意: Think Maxモードを使用する場合は、コンテキストウィンドウを最低384Kトークン以上に設定することが推奨されています。これに満たない設定で実行すると、長大な思考プロセスが途中で打ち切られる可能性があります。
まとめ
DeepSeek-V4シリーズは、100万トークンのコンテキスト長と大幅な計算効率化を両立し、コーディング分野ではオープンソース最高水準の性能を示しています。MITライセンスによる自由な商用利用が可能な点も、実業務への導入を検討する開発者にとって重要だと思います。詳細な推論手順はリポジトリの inference/README.md と技術レポートで確認することをおすすめします。
