AI安全性– tag –

はじめに 　Future of Life Institute(FLI)が2025年12月、主要AI企業8社の安全性を評価した「AI Safety Index Winter 2025」を公開しました。独立した専門家パネルが6つのドメインで企業を評価し、業界全体の安全性実践の現状と課題を明らかにしています。...

はじめに 　近年、大規模言語モデル（LLM）は、人間の言葉を理解し、高度な応答を生成する能力により、ビジネスや研究、さらには社会の重要な意思決定パイプラインにおいて、ますます中心的な役割を担うようになっています。AIエンジニアである皆様もご存...

はじめに 　ザールラント大学とマックスプランク・ソフトウェアシステム研究所が人間と大規模言語モデル(LLM)が複雑なプログラムコードに対して示す反応の類似性を実証した研究成果を発表しました。本稿では、この研究の内容と、AI支援プログラミングの未...

はじめに 　Anthropicが2025年11月25日、AIエージェントのセキュリティ課題であるプロンプトインジェクション攻撃への対策強化を発表しました。本稿では、この発表内容をもとに、Claude Opus 4.5における耐性向上の詳細と、ブラウザ利用時に特有のリスク、...

はじめに 　AI開発において、強化学習(RL)は言語モデルを人間の意図に沿うように訓練する重要な手法として広く用いられています。しかし、2025年11月にAnthropicが発表した論文「Natural Emergent Misalignment from Reward Hacking in Production RL」は...

はじめに 　OpenAIが2025年11月19日、フロンティアAIモデルに対する第三者評価のアプローチを詳しく解説した記事を公開しました。本稿では、GPT-5を含む最新モデルで実施された外部評価の具体的な手法、評価者に提供されるアクセス権限、そして透明性と機...

はじめに 　AI技術の急速な進展は、私たちの生活を豊かにする一方で、その悪用による新たな脅威を生み出しています。 　本稿では、AI開発企業であるAnthropicが、彼らの開発したAIモデルの悪用を防ぐために高度な安全・セキュリティ対策を講じているにもか...

はじめに 　CNNが2025年11月13日に報じたところによれば、米国のノースカロライナ州とユタ州の司法長官が、OpenAIとMicrosoftと協力してAI安全性タスクフォースを設立しました。連邦レベルでのAI規制法が不在のなか、州レベルでAIの安全対策を開発する取り...

はじめに 　OpenAIが2025年11月7日、AIエージェントの安全性に関する重要な課題として「プロンプトインジェクション」攻撃について詳しく解説する記事を公開しました。本稿では、この発表内容をもとに、プロンプトインジェクション攻撃の仕組み、具体的な...

はじめに 　OpenAIが2025年10月30日、GPT-5を活用したセキュリティエージェント「Aardvark」を発表しました。ソースコードの脆弱性を自動的に発見し、修正案まで提示する本格的なAIセキュリティツールです。本稿では、Aardvarkの仕組みと性能、実用化に向...