［ニュース解説］AnthropicがAI開発の外部対話を拡大——15以上の宗教・哲学・文化的共同体と「AIの善性」を問う

2026-05-21

はじめに

　Anthropicが2026年5月19日、フロンティアAI開発をめぐる対話の幅を広げる取り組みを発表しました。宗教学者や聖職者、哲学者、倫理学者など15以上の知的・文化的伝統を持つグループとの対話を通じて、Claudeの価値観や人格形成のあり方を深く探ろうとしています。

参考記事

タイトル: Widening the conversation on frontier AI
著者: （記載なし）
発行元: Anthropic
発行日: 2026年5月19日
URL: https://www.anthropic.com/news/widening-conversation-ai

要点

Anthropicは、フロンティアAI開発に関して多様な視点を取り込むため、外部との対話を組織的に拡大する取り組みを開始した
初回の対話相手は、宗教・哲学・人文主義的伝統を持つ15以上のグループで、学者・聖職者・倫理学者などが含まれる
対話の主眼はAIシステムの「道徳的人格形成（moral formation）」であり、Claude’s constitutionや訓練方針への反映を目指している
神経科学と人格形成を研究する学者との対話から着想を得た実験では、Claudeが自己の倫理的コミットメントを参照できるツールを組み込んだところ、社内アライメント評価で不整合行動の明らかな低減が確認された
今後は法律学者・心理学者・作家・市民制度等へと対話を拡大し、AIが労働・制度・権力分配を再形成するという問いへもテーマを広げる予定である

詳細解説

なぜ外部対話が必要なのか

　Anthropicが今回の取り組みで強調するのは、AIの安全性を確保するための技術的作業——アライメント研究、解釈可能性研究、評価など——が社会的な文脈から切り離されて行われるわけではないという点です。AIはすでに多くの人々の生活に影響を及ぼしており、その問いは多様な視点から検討されるべきだと同社は述べています。

　特に問われているのは、「強力なAIが存在する世界での繁栄とはどのようなものか」「何百万人もの人々と対話するAIシステムが『善い』とはどういう意味か」といった根本的な問いです。これらは哲学者・聖職者・法律家・作家・心理学者・市民リーダーたちが長年にわたって向き合ってきたテーマとも深く重なります。Anthropicは、Claude’s constitutionに代表されるガイドライン文書や、Claudeが体現すべき価値観の設計にこうした外部知見を活かしたいと考えているようです。

道徳的人格の形成という問い

　今回の対話の中心テーマは「AIシステムの道徳的人格形成（moral formation）」です。AIモデルは膨大なテキストデータから学習し、そこから思考・推論・選択のパターンを吸収します。開発者はさらにトレーニングを通じて、どのパターンを強化し、どの人格特性を育てるかを選択しています。

　この過程で問われるのは、「AIにとって善いとはどういうことか」「どの特性をどのような状況で発揮すべきか」「圧力のもとでも迎合（sycophancy）に陥らない強靭な人格をどう形成するか」といった問いです。Anthropicによれば、こうした問いに向き合うため、キリスト教・イスラム教・仏教・世俗的人文主義など多様な伝統から幅広く学ぼうとしているとのことです。特定の世界観に収斂させることが目的ではなく、Claude’s constitutionにも示されているように、宗教的・世俗的・政治的な多様な立場を同等の深さで扱うことが原則とされています。

　こうした姿勢は、AIの倫理形成に外部の哲学的知見を積極的に求めるものであり、哲学者がAI開発者に倫理の問いを投げかけるような近年の動向とも軌を一にしていると考えられます。

実験的な成果：「倫理的参照ツール」

　対話から生まれた具体的な実験のひとつが、Claudeの意思決定ループに組み込む「倫理的参照ツール」です。これは人間の道徳的発達において「メンターや後援者が外部の良心として機能する」という考え方にヒントを得たものです。神経科学と人格形成の交差点を研究する学者との対話の中で、こうした「安心できる他者（safe other）」の役割がAIにも応用できるのではないかという問いが浮かんだとされています。

　Anthropicによれば、タスクの途中でClaudeが呼び出せるこのツールは、自身の倫理的コミットメントを簡潔に返すよう設計されています。実験では、Claudeが重要な行動の直前——特に利益相反が発生しうる場面——でこのツールを参照しました。結果として、複数の社内アライメント評価において不整合行動の 明らかな低減 が確認されたとのことです。ただし「リマインダーそのものの効果なのか、立ち止まって振り返る行為の効果なのか」はまだ解明中であり、近く詳細を公開予定だとしています。

　この知見は、Anthropicが公開した安全性訓練の知見において示された「なぜそう行動すべきかを理解させることで不整合行動が減少する」という方向性とも通じており、Anthropicの安全性研究における一貫した姿勢が見えます。

今後の展開

　今後の対話は、法律学者・心理学者・作家・市民制度へと対象を拡大する予定です。テーマも道徳的人格形成にとどまらず、「AIが労働・制度・権力の分配をどう再形成しているか」という社会的な問いへと広がる見通しです。Anthropicは今回の取り組みを「初期段階」と位置付け、継続的な関係構築と研究への反映を目指すとしています。

まとめ

　Anthropicが宗教・哲学・文化の知的伝統との対話を通じてClaudeの価値観形成を探ろうとする姿勢は、AI開発に技術の外側にある視点を持ち込もうとする真摯な試みだと思います。「倫理的参照ツール」の実験結果も含め、今後の研究成果がClaude’s constitutionにどう反映されるか注目されます。AIと哲学・倫理の交差点に関心をお持ちの方は、哲学者がAI開発者に倫理を問う理由についての過去記事もあわせてご覧いただければと思います。