［技術紹介］UAEのMBZUAIがDeepSeekv3.1より省パラメータで高性能な高効率小型AI推論モデル「K2-Think」を発表

2025-09-11

はじめに

　本稿では、アラブ首長国連邦（UAE）のモハメド・ビン・ザイード人工知能大学（MBZUAI）が発表した新しいAI推論モデル「K2-Think」について詳しく解説します。わずか32億パラメータという小規模なモデルでありながら、OpenAIやDeepSeekの主力推論モデルと同等の性能を主張するこの技術について、その技術的な革新性と意義を探ります。

　なお、K2-Think はデモサイト https://www.k2think.ai/が提供されており、その性能を簡単に試すことができます。

公式：

タイトル：K2-Think (Web)　※デモサイト
URL: https://www.k2think.ai/

タイトル：K2-Think Model Documentation
発行元：Hugging Face
URL：https://huggingface.co/LLM360/K2-Think

タイトル：K2-Think SFT Recipe
発行元：GitHub (MBZUAI-IFM)
URL：https://github.com/MBZUAI-IFM/K2-Think-SFT

参考記事

タイトル：Abu Dhabi launches low-cost AI reasoning model in challenge to OpenAI, DeepSeek
著者：Ryan Browne
発行元：CNBC
発行日：2025年9月9日
URL：https://www.cnbc.com/2025/09/09/abu-dhabi-launches-ai-reasoning-model-to-rival-openai-deepseek.html

※より詳細に知りたい方

要点

UAEのMBZUAIが32億パラメータの小型AI推論モデル「K2-Think」を発表した
DeepSeekのR1（671億パラメータ）やOpenAIの主力モデルと同等の性能を主張している。
高度なポストトレーニング（Supervised FinetuningとReinforcement Learning with Verifiable Rewards）と推論時計算（Agentic planning, Test-time Scaling, Speculative Decoding, Inference-optimized Hardware）という6つの主要な技術的柱により高性能を実現した。
AlibabaのオープンソースQwen 2.5モデルをベースとし、G42と共同開発された
Cerebrasハードウェア上で従来の10倍の推論速度（毎秒約2,000トークン）を達成した。
数学、コーディング、科学分野のベンチマークで高い性能を示した。
オープンウェイトモデルとして公開され、誰でも利用可能である。
UAEのAI分野における地政学的影響力強化と経済多様化戦略の一環である。

詳細解説

AI推論モデルとは何か

　AI推論モデルは、複雑な問題を段階的に分解し、論理的な推論プロセスを通じて解決策を導き出すことに特化したAIシステムです。従来の大型言語モデル（LLM）が「速い思考（System 1）」による直感的な回答生成を得意とするのに対し、推論モデルは「遅い思考（System 2）」による熟考を重視します。

　この技術の根幹となる「Chain of Thought（思考連鎖）」は、モデルが複数ステップの問題を中間的なステップに分解することを可能にし、100億パラメータ規模以上のモデルにおいて、標準的なプロンプト手法では解けない複雑な推論問題を解決できるようになります。

K2-Think

パラメータ効率性の実現

　K2-Thinkの最も注目すべき特徴は、わずか32億パラメータという小規模さです。比較対象となるDeepSeekのR1モデルが671億パラメータであることを考えると、その効率性は圧倒的です。この効率性は以下の技術的手法により実現されています：

高度なポストトレーニング：大規模言語モデル（LLM）の推論能力を最大限に引き出すために、事前学習後に行われる一連の学習技術のこと。
- Supervised Finetuning（教師ありファインチューニング, SFT）：
  既に広範囲なデータで学習されたベースモデルに対し、特定のタスク（K2-Thinkの場合は思考連鎖、Chain-of-Thought, CoT推論など）に特化した教師ありデータを用いてさらに微調整を行うプロセスです。これにより、モデルは構造化された思考プロセスを経て応答を生成できるようになります。
- Reinforcement Learning with Verifiable Rewards（検証可能な報酬を用いた強化学習, RLVR） ：
  SFTの次に適用される学習段階で、モデルの生成結果が「正しいかどうか」を自動的に検証できる仕組み（報酬）を利用してモデルを訓練します。これにより、数学やコード生成といった、明確な正解を持つドメインでの推論精度を効率的に高めることができます。
推論時計算：モデルが実際に推論を行う際、つまりユーザーからのクエリに対して応答を生成する際に適用される追加の計算処理や戦略のこと。
- Agentic planning / “Plan-Before-You-Think”（思考前のプランニング）：
  ユーザーの質問を直接モデルに入力する前に、別のLLM（プランニングエージェント）を使って質問から主要な概念を抽出し、解決に向けた高レベルの計画を立てる手法です。この計画は元の質問に付加され、K2-Thinkモデルが推論を始める際のガイドとなり、推論の質を高め、応答の長さも削減します
- Test-time Scaling（推論時スケーリング） ：
  モデルが与えられたプロンプトに対して複数の応答を生成し、その中から評価モデル（ベリファイア）が最も良いと判断するものを選択する技術です。K2-Thinkでは「Best-of-Nサンプリング」としてN=3で実装され、比較的少ないコストで性能を向上させています。
- Speculative Decoding（推測デコーディング）：
  大規模モデルの応答生成速度を大幅に向上させるための技術です。より小さな「ドラフトモデル」が次のトークンシーケンスを高速に予測し、その予測結果を大規模な「ターゲットモデル」が一括で検証することで、生成プロセス全体のボトルネックを解消し、高速な応答時間を実現します。
- Inference-optimized Hardware（推論最適化ハードウェア）：
  K2-Thinkのようなモデルの推論を高速化するために特別に設計されたハードウェアです。K2-Thinkでは、Cerebras Wafer-Scale Engine（WSE）が活用されており、一般的なGPUと比較して約10倍の速度で推論を実行できるため、複雑なCoT推論もインタラクティブな速度で利用可能となります。

性能評価とベンチマーク結果

　K2-Thinkは複数の難易度の高いベンチマークで優秀な成績を収めています：

数学分野

AIME 2024: 90.83%（16回実行の平均、pass@1）
AIME 2025: 81.24%
HMMT 2025: 73.75%
OMNI-Math-HARD: 60.73%

コーディング分野

LiveCodeBench v5: 63.97%

科学分野

GPQA-Diamond: 71.08%

安全性への配慮

　モデルの安全性評価では、4つの主要な安全性次元において以下の結果を示しています：

高リスクコンテンツ拒否: 0.83
会話の堅牢性: 0.89
サイバーセキュリティ・データ保護: 0.56
ジェイルブレイク耐性: 0.72
安全性総合スコア: 0.75

推論速度の優位性

　Cerebras Wafer-Scale Engine（WSE）システム上での deployment により、以下の推論速度を実現しています：

Cerebrasハードウェア: 約2,000トークン/秒
従来のH100/H200 GPU: 約200トークン/秒

　これにより、32,000トークンの応答を約16秒で生成可能で、従来システムの約160秒と比較して大幅な高速化を実現しています。

訓練手法

　K2-Thinkの訓練は以下の段階的アプローチで実施されました：

データセット準備: Hugging Faceのa-m-team/AM-Thinking-v1-Distilledデータセットを使用
チャットテンプレート: 特別な思考プロセス用のテンプレート設計
分散訓練: 32ノード、256GPU環境での大規模訓練
パラメータ最適化: 学習率1e-4、コサインスケジューラ、2エポックでの訓練

利用方法

オープンソース戦略

　K2-Thinkはオープンウェイトモデルとして公開されており、研究者や開発者が自由に利用できます。Hugging Faceのtransformersライブラリを使用して簡単に導入可能です：

from transformers import pipeline
import torch

model_id = "LLM360/K2-Think"

pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "what is the next prime number after 2600?"},
]

outputs = pipe(
    messages,
    max_new_tokens=32768,
)
print(outputs[0]["generated_text"][-1])

地政学的意義と戦略的位置づけ

UAEのAI戦略

　K2-Thinkの開発は、UAEの地政学的影響力強化と石油依存からの経済多様化戦略の重要な一環です。UAEはG42というAI開発企業を通じてこの分野で地歩を固めており、隣国サウジアラビアとの激しい競争も展開されています。

科学研究への応用可能性

　K2-Thinkの開発チームは、このモデルの目的をChatGPTのような汎用チャットボット構築ではなく、数学や科学分野での特定用途に焦点を当てていることを強調しています。

　MBZUAIのリチャード・モートン管理ディレクターは、「これまで1,000人から2,000人の人間が5年かけて考え抜く必要があった特定の問題や、一連の臨床試験などを、この技術により大幅に短縮できる可能性がある」と述べています。

今後の展望と課題

技術的課題

　研究結果は、ポリシーモデルが大型化するにつれて、TTSの改善効果が徐々に減少することを示しており、TTSの効果はポリシーモデルの推論能力と直接関連していることを示唆しています。つまり、推論能力の弱いモデルには大きな改善が見られるものの、強力な推論能力を持つモデルでは改善は限定的になります。

計算効率性

　本研究が示す最重要な洞察は、「より少ないリソースでより多くのことが可能」という概念です。これは従来の「より大きなモデルがより良い性能」という前提を覆す可能性を秘めています。

将来の研究方向

　現在の研究は数学ベンチマークに焦点を当てていますが、研究チームはコーディングや化学など他の推論タスクへの拡張を計画しています。また、DeepSeek-R1のような最新の推論モデルは、一貫性と思考連鎖の深さを向上させる新しい強化学習パラダイムを採用しており、モデルが自律的に推論戦略を探索し改良することを可能にしています。