はじめに
本稿では、米『The Atlantic』が配信したポッドキャスト「AI and the Rise of Techno-Fascism in the United States」の内容をもとに、元チェス世界チャンピオンのガルリ・カスパロフ氏と、認知科学者でありAI研究の第一人者であるゲイリー・マーカス氏の対談をもとに、AIが社会、特に民主主義に与える影響について深く掘り下げます。AIは私たちの生活を豊かにする大きな可能性を秘めていますが、その一方で、使い方を誤れば社会を不安定にする危険性もはらんでいます。
参考記事
- タイトル： AI and the Rise of Techno-Fascism in the United States
- 著者： Garry Kasparov
- 発行元： The Atlantic
- 発行日： 2025年9月5日
- URL： https://www.theatlantic.com/podcasts/archive/2025/09/ai-and-the-fight-between-democracy-and-autocracy/684095/
要点
- AIは本質的に善でも悪でもない、単なる「ツール」である。その価値は人間がどのように利用するかによって決まる。
- 現在の生成AI（大規模言語モデル）は、真の意味で知性や理解力を持っているわけではなく、膨大なデータから統計的なパターンを認識しているに過ぎない。そのため、チェスのルールのような単純な規則さえ守れないことがある。
- AIにおける「アライメント問題」（AIを人間の価値観や意図に沿って動作させること）は未解決であり、単にデータを増やすだけではAGI（汎用人工知能）には到達しない。
- AIがもたらす真の脅威は、AI自身が暴走することではなく、悪意ある人間がプロパガンダや世論操作、監視のためにAIを利用することである。これは、民主主義の体裁を保ちながら少数の技術エリートが実質的に社会を支配する「テクノ・ファシズム」につながる危険性をはらむ。
- この脅威に対抗するためには、市民が利便性の裏にあるリスクを理解し、無関心から脱却して、AI技術のあり方について声を上げ、集団で行動することが不可欠である。
詳細解説
現在のAIは本当に「賢い」のか？
多くの人がChatGPTのような大規模言語モデル（LLM）の能力に驚き、まるで人間のような知性が宿っているかのように感じています。しかし、マーカス氏はこの見方に警鐘を鳴らします。
彼によれば、現在のAIは真の意味で物事を理解しているわけではありません。AIはインターネット上の膨大なテキストデータを学習し、「ある単語の次にどの単語が来やすいか」という確率的な予測を行っているに過ぎないのです。これは「知性」というよりは、高度なパターン認識と呼ぶべきものです。
その証拠として、マーカス氏はチェスの例を挙げます。最新のAIにチェスをプレイさせると、ルールを verbally（言葉で）説明できるにもかかわらず、クイーンが他の駒を飛び越えるといったルール違反の指し手をすることがあります。これは、AIが「駒を飛び越えてはいけない」というルールの「意味」を理解しておらず、単に膨大な棋譜データの中からそれらしい次の手を予測しているだけだからです。
かつてカスパロフ氏を破ったスーパーコンピュータ「ディープ・ブルー」が膨大な計算力（ブルートフォース）に依存していたのとは別の意味で、現代のAIもまた、膨大なデータという「力」に依存しているのです。
AIが直面する「アライメント問題」という壁
AI研究における重要な概念に「アライメント問題」があります。これは、AIの行動を、開発者が意図した目標や人間の倫理観・価値観と一致（align）させる、という課題です。
マーカス氏は、この問題が全く解決されていないと指摘します。前述のチェスの例のように、明確に定義されたルールさえ守れないAIが、「人間に危害を加えるな」といった、より複雑で曖昧な倫理規範を遵守できるはずがありません。
一部では「データをさらに増やし、モデルを大きくし続ければ、いつかAIが真の知性を獲得し、これらの問題も解決する」という期待がありますが、マーカス氏はこの考えを否定します。量的な変化が質的な変化（知性の獲得）につながるという保証はなく、現在の延長線上ではいずれ技術的な停滞期（プラトー）が来ると予測しています。
真の脅威は「テクノ・ファシズム」の台頭
カスパロフ氏とマーカス氏が最も懸念しているのは、「ターミネーター」のようにAIが自我を持って人類に反逆することではありません。真の脅威は、人間、特に権力者がAIを悪用することにあります。
AIは、特定の個人に合わせてカスタマイズされたプロパガンダを大規模に生成したり、SNSで偽情報を拡散して世論を操作したり、国民を監視したりするための強力なツールとなり得ます。
両氏は、このような状況が「テクノ・ファシズム」につながる危険性を指摘します。これは、選挙といった民主主義的な制度の形は残りつつも、その実態は、巨大なデータと強力なAIを掌握した一部の技術的エリート（テック・オリガーキー）によって、世論や選挙結果が都合よく操作される社会のことです。独裁者が国民を支配する上で、これほど都合の良いツールはありません。
多くの人々は、日々の利便性と引き換えに、自らのプライバシーやデータをテック企業に差し出すことに慣れてしまっています。この社会全体の無関心が、テクノ・ファシズムの土壌となり得ると両氏は警告します。
私たち市民にできることとは？
では、私たちはこの暗い未来をただ待つしかないのでしょうか。カスパロフ氏とマーカス氏は、まだ希望はあると語ります。未来は決定されておらず、私たちの選択と行動にかかっていると主張しています。
その力とは、市民による団結と行動です。例えば、問題のあるAIサービスの利用を拒否する（ボイコット）、労働者がストライキを行う、といった集団的な行動は、巨大なテック企業に対しても影響力を持ち得ます。
また、長期的にはAIを偽情報のファクトチェックに応用するなど、民主主義を守るために活用する道もあります。しかし、それを実現するためには、まず市民一人ひとりが現状の危険性を認識し、「政治的な意志」を持つことが不可欠です。AIという強力なツールの未来を、一部の企業や権力者に委ねてはならないのです。
まとめ
本稿で紹介した対談は、AIという技術がもたらす光と影を鋭く浮き彫りにしています。AIは、私たちの社会をより良くするための強力なツールとなり得ますが、同時に、民主主義を根底から揺るがしかねない危険な兵器にもなり得ます。
重要なのは、AIを善悪の二元論で語るのではなく、あくまで人間が使う「ツール」として捉え、その使い方を社会全体で議論し、コントロールしていくことです。利便性の追求だけでなく、その裏にあるリスクにも目を向け、市民として声を上げ続けること。AI時代の民主主義の未来は、市民一人ひとりの手に委ねられていると言えます。
