AI安全性– tag –

はじめに 　Anthropicは2025年9月、新しい大規模言語モデル（LLM）である「Claude Sonnet 4.5」を発表し、その詳細な評価結果をまとめたシステムカードを公開しました。このモデルは、特にコーディング、自律的なタスク（エージェントタスク）、コンピュー...

はじめに 　本稿では、AP通信が2025年9月25日に報じた内容を基に、国連の安全保障理事会で中心的な議題となった人工知能（AI）の可能性とリスクについて解説します。 参考記事 タイトル： AI’s double-edged sword: UN leaders weigh its promise and peri...

はじめに 　人工知能（AI）技術は、医療から教育まで、私たちの社会に大きな利益をもたらす可能性を秘めています。その一方で、AIが高度化するにつれて、その能力が悪用されたり、意図しない形で社会に害を及ぼしたりするリスクも増大しています。こうした...

はじめに 　AI技術が急速に進化し、自律的にタスクをこなすシステムが登場する中で、新たなアラインメントの課題が浮き彫りになっています。アラインメントとは、AIの行動や目標を、開発者が意図したもの、ひいては人類の価値観と一致させるための技術や考...

はじめに 　近年、急速な進化を遂げるAI（人工知能）は、私たちの社会に大きな利益をもたらす一方で、その悪用リスクも懸念されています。Anthropic社とOpenAI社が、米英の政府機関と連携し、AIの脆弱性対策を強化したことを発表しました。 　本稿では、AI...

はじめに 　本稿では、AI開発企業であるAnthropic社が公開した脅威インテリジェンスレポート「Detecting and countering misuse of AI: August 2025」を基に、AIが悪用されるサイバー犯罪の新たな手口と、それに対する具体的な対策について詳しく解説しま...

はじめに 　近年、ChatGPTに代表される大規模言語モデル（LLM）が身近なものになりましたが、その影響はサイバーセキュリティの分野にも及んでいます。攻撃者（ハッカー）はより巧妙な手口のために、そして防御側（セキュリティ専門家）はより強固な守りの...

はじめに 　本稿では、AI（人工知能）の活用が急速に進む現代において、企業が見落としがちなセキュリティリスクについて解説します。AIはビジネスに大きな可能性をもたらす一方で、その導入を急ぐあまり、セキュリティ対策が追いついていない「監視のギャ...

はじめに 　AI、特に大規模言語モデル（LLM）の開発において、「知識蒸留（Distillation）」という技術がよく使われます。これは、高性能な「教師モデル」の振る舞いを、より小さく、あるいは特定の目的に特化した「生徒モデル」に模倣させる学習方法です...

はじめに 　近年、AI（人工知能）の進化は、私たちの生活や社会に大きな変化をもたらす可能性を秘めており、その開発競争は日々激しさを増しています。しかしその一方で、私たちは自らが生み出したシステムの全てを理解できているわけではありません。最近...