［医療AI向け］「謙虚なAI」をどう設計するか——MITが提唱する、不確実性を開示する医療診断フレームワーク

2026-04-01

はじめに

　MITを中心とする国際研究グループが2026年3月24日、医療診断AIを「謙虚」に設計するためのフレームワークを発表しました。本稿では、BMJ Health and Care Informaticsに掲載されたこの研究内容をもとに、AIが自身の確信度を自己評価し、医師と協調して働く仕組みについて解説します。

参考記事

タイトル: How to create “humble” AI
著者: Anne Trafton
発行元: MIT News
発行日: 2026年3月24日
URL: https://news.mit.edu/2026/creating-humble-ai-0324

要点

MITを中心とする国際コンソーシアムが、医療診断AIを「謙虚」に設計するフレームワークをBMJ Health and Care Informaticsに発表した
フレームワークの中核は「Epistemic Virtue Score（認識論的徳スコア）」と呼ばれる自己評価モジュールであり、AIが診断予測時に自身の確信度を評価する
AIが証拠に対して過度に確信していると判断した場合は、追加検査の要求や専門医への相談を促す仕組みとなっている
研究チームは、AIを「神託」として使うのではなく「コーチ」や「副操縦士」として機能させることを目指している
訓練データの地理的偏りや電子健康記録の限界など、既存AI設計の包括性の問題にも取り組んでいる

詳細解説

過剰な自信が招く医療現場のリスク

　AIは医療診断や治療の個別化に大きな可能性を持つ一方で、現在の設計には重大な課題があるとMIT研究グループは指摘しています。過去の研究では、ICUの医師が自身の直感に反しても、信頼性が高いと認識されたAIシステムの判断に従ってしまうケースが確認されています。患者や医師がAIの提案を権威あるものとして受け入れた場合、誤った診断を無批判に採用するリスクがあります。

　こうした問題を受け、MITのInstitute for Medical Engineering and Science上級研究科学者であり、Beth Israel Deaconess Medical Centerの医師でもあるLeo Anthony Celi氏は、AIを「オラクル（神託）」として使うのではなく「コーチ」や「真の副操縦士」として活用するアプローチを提唱しています。「情報を取り出す能力だけでなく、点と点をつなぐ自律性を高めるためにAIを使えるはずだ」とCeli氏は述べています。

フレームワークの核心：Epistemic Virtue Score

　研究チームが設計したフレームワークには、既存のAIシステムに組み込める複数の計算モジュールが含まれています。その中核となるのが、メルボルン大学のJanan ArslanとKurt Benkeが開発したEpistemic Virtue Score（認識論的徳スコア）です。

　このモジュールは、AIが診断予測を行う際に自身の確信度を自己評価する仕組みです。利用可能な証拠に対してAIの確信度が高すぎると検出された場合、システムは処理を一時停止し、不一致を通知した上で、不確実性を解消するための特定の検査や病歴の提供、あるいは専門医への相談を求めます。Celi氏は「複雑な患者をより深く理解するために、新しい視点を求めるよう促す副操縦士のようなものだ」と説明しています。

　「認識論（epistemology）」とは知識の性質・範囲・根拠を扱う哲学の一分野で、このスコアの名称は、AIが「自分が何を知っており、何を知らないか」を適切に評価する能力を象徴しています。単に答えを出すだけでなく、その答えをどの程度信頼すべきかを示す点が、従来の診断AIとの大きな違いと言えます。

実装の現状と想定される応用範囲

　研究チームは現在、MIMAICデータベース（Beth Israel Deaconess Medical Centerの集中治療医療情報マート）をベースとしたAIシステムへの新フレームワーク実装を進めており、Beth Israel Lahey Healthシステムの臨床医への導入を目指しています。MIMICはCeli氏らが過去に開発した大規模な医療データベースで、AI訓練用データとして広く活用されています。

　応用範囲としては、X線画像分析のほか、救急患者に対する最適治療選択の支援なども想定されています。自己評価モジュールは既存のAIシステムに統合可能な設計となっており、新規開発だけでなく既存ツールの改良にも活用できると考えられます。

包括的なAI設計への取り組み

　この研究は、最終的に影響を受ける人々によって、またその人々のために設計されるAIシステムを作るという、より大きな取り組みの一部です。現在の多くの医療AIモデルは米国の公開データで訓練されており、特定の医療的思考様式への偏りや、他の視点の排除につながる可能性があるとされています。

　MIT Critical Dataが主催するデータワークショップでは、データサイエンティスト、医療専門家、社会科学者、患者らが協力して新しいAIシステムを設計しています。参加者は使用データが予測対象のすべての要因を捉えているかを問い直し、構造的不平等を無意識にモデルへ組み込まないよう取り組んでいます。農村部など医療アクセスに課題のある地域の患者が既存データセットから意図せず排除される問題も、積極的に議論されています。

　「AIの開発を止めることも遅らせることもできない。しかし、どのようにAIを進めるかについて、より慎重かつ思慮深くあるべきだ」とCeli氏は述べており、技術の進展と倫理的設計の両立を重視する姿勢が示されています。