[開発者向け]Thinking Machinesが「Inkling 2 Small」を公開——総594B・稼働17BのオープンウェイトMoEを読み解く

目次

はじめに

 Thinking Machines Labは、テキストと画像を扱うオープンウェイトモデル「Inkling 2 Small」をHugging Faceで公開しました。総パラメータ5,940億のうち、1トークンの処理に使うのは170億だけという設計です。本稿では、モデルカードをもとに仕組み、必要な環境、性能を整理します。

参考記事

関連記事

あわせて読みたい
[ニュース解説]Anthropic CEOが「オープンウェイトモデル禁止には反対」と表明——真の争点は半導体・蒸... はじめに  Anthropicの共同創業者兼CEOであるダリオ・アモデイ氏が2026年7月27日、公式ブログで「オープンウェイトモデルへの姿勢」と題する声明を公表しました。中国...
あわせて読みたい
[開発者向け]AlibabaがQwen3.6-35B-A3Bをオープンウェイトで公開——エージェントコーディングと思考保... はじめに  AlibabaのQwenチームが2026年4月、コーディング能力を大幅に強化したマルチモーダルLLM「Qwen3.6-35B-A3B」をオープンウェイトで公開しました。2月リリース...
あわせて読みたい
[論文解説]OpenAIによるオープンウェイトLLMの悪用リスクに関する研究 はじめに  2025年8月にOpenAIがChatGPTの重みを公開しました。オープンソースやオープンウェイトでLLMが公開されることは、技術の民主化を促進する一方で、その悪用リ...

要点

  • Inkling 2 Smallは、テキストと画像を入力してテキストを出力する汎用のマルチモーダルモデルで、研究、ファインチューニング、他社製品への組み込みのためにオープンウェイトで公開された
  • 48層のデコーダー型Transformerに、384のエキスパートから8つを選んで使うMoE構造を組み合わせており、総パラメータは594B、1トークンあたりの稼働パラメータは17Bである
  • コンテキストは最大100万トークンで、ローカル推論はSGLang、vLLM、TokenSpeed、Unslothに対応する。標準のNVFP4版は合計500GB以上のGPUメモリを必要とする
  • 同じ「Flash」クラスのオープンウェイトモデルと比べ、検索・ツール利用、知識作業、金融・法務、画像認識などで高いスコアを示した
  • 安全性評価では、オープンウェイトのエコシステムですでに得られる以上の実質的なリスクの上乗せはないと結論づけている

詳細解説

Inkling 2 Smallとは

 Inkling 2 Smallは、Thinking Machines Labが開発した汎用のマルチモーダルモデルです。テキストと画像を入力として受け取り、テキストを出力します。英語を中心に、他の言語や複数のプログラミング言語でも使えるよう設計されています。

 想定する利用者は、AIを組み込んだアプリケーションを作る開発者です。モデルカードでは、エージェントやツール利用のシステム、コーディング支援、チャットボット、RAG(検索拡張生成)システムなどを用途として挙げています。重みを公開する「オープンウェイト」として提供されており、研究、ファインチューニング(追加学習)、他社製品への組み込みに利用できます。

 Thinking Machinesは7月に初代モデルを公開しており、その内容は初代「Inkling」の解説記事で取り上げました。報道によれば、Inkling 2 Smallは11月5日に同社の学習基盤「Tinker」上で先行提供され、その後に重みが公開されたとされています。ライセンスについてはモデルカード本文に明記がないため、利用前にHugging Face上のライセンス表記を確認する必要があります。

仕組み——「594Bあるのに17Bしか使わない」MoE構造

 モデルカードに記載された主な仕様は次のとおりです。

  • モデルの種類: マルチモーダルの自己回帰型Transformer
  • アーキテクチャ: 48層のデコーダー型Transformerで、フィードフォワード部分に疎な混合エキスパート(MoE)構造を採用。各トークンは384のエキスパートのうち8つに振り分けられる。注意機構は局所的な層と全体的な層を組み合わせたハイブリッド型
  • マルチモーダル処理: 画像はビジョンTransformerで符号化され、テキストと共通の隠れ空間に射影されたうえで、デコーダーでまとめて処理される
  • パラメータ数: 総計594B、稼働17B
  • 数値形式: MXFP8とNVFP4
  • 入力: UTF-8のテキストと、ピクセルベースの画像(最適な性能のためには各辺40〜4,096ピクセルが目安)。コンテキストウィンドウは最大100万トークン
  • 出力: UTF-8のテキスト

 初めての方向けに補足すると、MoE(混合エキスパート)とは、モデル内部に「エキスパート」と呼ばれる小さなネットワークを多数用意し、入力ごとにその一部だけを使う構造です。Inkling 2 Smallの場合、全体では5,940億個のパラメータを持ちますが、1つのトークンを処理するときに実際に計算に使うのは約170億個です。大きなモデルの知識量を保ちながら、1回あたりの計算量を抑えられるのが利点です。ただし、使わないエキスパートも含めてすべての重みをメモリに載せておく必要があるため、必要なGPUメモリは総パラメータ数に応じて大きくなります。

始め方——試す、動かす、追加学習する

 モデルカードでは、目的に応じて次の方法が案内されています。

  • まず試す: Tinker Playgroundでブラウザから試せる。APIでの利用はTinker Cookbookを参照する。Tinkerでファインチューニングする場合は、tml-renderersパッケージも導入する
  • 手元のGPUで推論する: SGLang、vLLM、TokenSpeed、Unslothに対応しており、それぞれに設定手順(レシピ)が用意されている
  • 追加学習する: Miles、SkyRL、Snowflake Cortex Trainingで事後学習ができる
  • 外部のAPIで使う: NVIDIA、Fireworks、Together、Baseten、Nebius、Modal、Cloudflareなどの推論サービスからも利用できる

 GPUを用意できない場合でも、PlaygroundやAPIサービスから性能を確かめられる点は、評価の入り口として使いやすいと思います。

必要なハードウェアとチェックポイントの選び方

 重みは2種類の形式(チェックポイント)で配布されています。

形式必要なGPUメモリ(合計)構成例
NVFP4(標準)500GB以上NVIDIA B300×2台、またはH200×4台
MXFP8(代替)800GB以上NVIDIA B300×4台、またはH200×8台

 NVFP4とMXFP8は、どちらも重みを少ないビット数で表す低精度の数値形式です。ビット数が少ないほどメモリを節約できます。Inkling 2 Smallは事前学習から中間学習、事後学習までをNVFP4で行っており、NVFP4がこのモデル本来の精度だとしています。そのためThinking Machinesは、すべての用途でNVFP4版を推奨しています。MXFP8版は評価でわずか1〜2ポイント高いものの、実用上の意味はないと考えているとのことです。

 GPUで直接動かすには、SGLang、vLLM、TokenSpeed、Unsloth、Hugging Faceのいずれかの推論フレームワークと、それぞれが依存するライブラリが必要です。

 なお、「Small」という名前ではありますが、標準版でもデータセンター向けGPUが複数台必要です。個人のPCで動かすモデルではなく、組織での自社運用や研究向けと考えるのが現実的です。

学習データ

 学習データには、テキスト、画像、動画など幅広い種類のコンテンツが含まれます。公開されている情報源、第三者から取得したデータ、社内で作成したデータ、合成または拡張したデータが使われています。公開情報には、インターネット上の公開コンテンツや公開リポジトリが含まれます。データの整備では、種類に応じて重複除去や低品質データの除外、安全性などの目的のためのフィルタリングが行われているとしています。

ベンチマーク——同クラスのオープンモデルとの比較

 モデルカードには、オープンウェイトの「Flash」クラス、オープンウェイトの「Pro」クラス、クローズドの「Flash」クラスの計13モデルとの比較表が掲載されています。ここでは主な指標を抜粋し、同クラスのオープンモデル2つとクローズドモデル3つと並べます(Thinking Machines発表)。

指標Inkling 2 SmallDeepSeek-V4.1-Flash-1017GLM-5.3-FlashGPT-6 LunaGemini 3.8 FlashClaude Haiku 5.5
稼働/総パラメータ(B)17/59416/55218/320–––
AA Index(v5.0)30.632.627.827.930.836.5
FrontierCode v2.025.4%28.5%17.6%25.2%18.7%34.9%
DeepSWE v1.172.1%77.0%63.4%66.6%73.8%59.9%
BrowseComp90.2%87.8%76.0%83.6%89.4%80.2%
JobBench70.5%68.5%60.7%49.0%63.4%39.2%
EnterpriseOps-Gym46.8%43.6%33.2%24.9%45.7%25.1%
Finance Agent v2.167.5%62.9%60.6%56.8%65.8%65.4%
Harvey LAB v1.121.7%14.2%10.4%4.2%12.1%4.2%
PerceptionBench64.7%47.7%49.6%56.2%68.7%60.5%
ARC-AGI-281.7%78.1%65.8%59.3%89.2%61.3%
AA-LCR v1.1(長文脈)83.3%82.7%80.0%83.3%81.3%82.7%
AA-Omniscience 非ハルシネーション率73.3%35.9%61.7%20.7%44.9%65.8%
Global-MMLU-Lite(多言語)91.0%90.4%89.0%90.2%93.2%87.8%

 抜粋した範囲では、Inkling 2 Smallは検索・ツール利用(BrowseComp)、知識作業(JobBench)、企業業務(EnterpriseOps-Gym)、金融(Finance Agent)、法務(Harvey LAB)で高いスコアを示しています。また、AA-Omniscienceの非ハルシネーション率(知らないことを知らないと答えられる割合)が73.3%と、比較対象の中で目立って高い点も特徴です。

 一方、総合指標のAA IndexやコーディングのFrontierCode、DeepSWEではDeepSeek-V4.1-Flash-1017が、画像認識のPerceptionBenchや推論のARC-AGI-2ではGemini 3.8 Flashが上回っています。すべての領域で首位というわけではなく、得意分野がはっきりしたモデルと言えそうです。

 安全性関連の指標では、敵対的な依頼への耐性を測るFORTRESS(adversarial)が83.8%と同クラスのオープンモデル(DeepSeek-V4.1-Flash-1017: 72.8%、GLM-5.3-Flash: 73.3%)より高い一方、無害な依頼に適切に応じられるかを測るFORTRESS(benign)は79.7%で、両モデル(93.1%、96.4%)より低くなっています。本稿としては、安全側に寄せた分、無害な依頼まで断る場面が他モデルより多い可能性があり、導入時には自社の用途で確かめておきたい点だと受け止めています。

安全性評価

 Thinking Machinesは公開前に、日常的な人とAIのやり取りと、危険な能力の両面で安全性評価を行ったとしています。マルチモーダルモデルであるため、テキストと画像のどちらの入力でも安全な振る舞いが一貫するかにも注意を払い、公開前にリスクを減らす対策を講じたとのことです。評価の範囲は次のとおりです。

  • 日常的なやり取り: 迎合(ユーザーに過度に同調すること)、有害な誘導、擬似的な人間関係への依存や妄想的な推論の肯定といった心理的な害を評価した。長い会話でしか表れない問題を探るため、外部による複数ターンの自由形式のレッドチーミングも行った。本当に有害な依頼を拒否しつつ、無害な依頼を過剰に拒否しないかも確認した
  • CBRNとサイバー: 知識や手順面での能力の上乗せを、社内評価、外部テスト、拒否を抑えた版による潜在能力の推定で評価した
  • 制御の喪失: エージェント能力、戦略的な欺瞞、妨害の可能性を公開済みのフロンティアモデルと比較し、フロンティアの能力を大きく下回ると判断した

 すべての領域で、Inkling 2 Smallはオープンウェイトのエコシステムですでに得られる以上の実質的な能力の上乗せはないと結論づけています。

バイアス、リスク、制約

 モデルカードは、基盤モデルに共通する制約として、もっともらしいが事実と異なる内容を生成するハルシネーション、指示に正確に従えない場合があること、長い複数ターンの会話での性能低下を挙げています。また、Web由来や合成のデータで学習しているため、人口統計・文化・言語に関するバイアスを反映する可能性や、学習データで扱いの少なかった言語・方言・分野で性能にばらつきが出る可能性も示しています。知識は学習データのカットオフ時点までに限られます。

 そのうえで、重要な場面や安全性が問われる場面で出力を使う場合は人による監督と確認を行うよう求め、利用者に次の対応を推奨しています。

  • 導入前に、自社の用途・言語・利用者層での性能、安全性、公平性を独自に評価する。特に、配慮が必要な人々に関わる用途では慎重に行う
  • アプリケーション層で、コンテンツフィルタリング、レート制限、監視などの追加の安全策を実装する。特に一般公開する用途では、モデル内蔵の対策だけでは不十分な場合がある
  • 医療、法務、安全性に関わる意思決定の分野では、追加のファインチューニング、分野固有の検証、人による監督なしに導入しない

 重みが公開されるモデルでは、提供元のサーバー側の安全策が働かないため、こうした責任の多くが導入する側に移ります。オープンウェイトの利点である「自社で調整できる」自由と、運用上の責任をセットで考える必要があると思います。

まとめ

 Inkling 2 Smallは、総594B・稼働17BのMoE構造で、検索・知識作業・金融・法務などに強みを示すオープンウェイトモデルです。運用には大規模なGPU環境が必要で、安全策の責任も導入側に移ります。オープンウェイトの「調整できる」強みは、IBMのvLLM-Hookを紹介した記事もあわせてご覧ください。\

この記事が気に入ったら
フォローしてね!

  • URLをコピーしました!
  • URLをコピーしました!
目次