AI安全性– tag –

はじめに 　OpenAIが2025年12月18日、AIモデルの行動規範を定めた「Model Spec」に、18歳未満のユーザー向けの保護原則「U18 Principles」を追加したと発表しました。本稿では、この更新内容と、同時に公開されたティーンと保護者向けのAIリテラシーリソー...

はじめに 　AIモデルの進化に伴い、その安全性とリスク評価の重要性はかつてないほど高まっています。OpenAIは、モデルのリリースごとに「システムカード（System Card）」と呼ばれる技術レポートを公開しています。これは、モデルの開発プロセス、安全性...

はじめに 　OpenAIが2025年12月10日、AIモデルのサイバーセキュリティ能力向上に伴う安全対策と、防御側を支援するエコシステム強化の取り組みを発表しました。本稿では、この発表内容をもとに、AIモデルの進化するサイバー能力への対応策と、防御側を支援...

はじめに 　Future of Life Institute(FLI)が2025年12月、主要AI企業8社の安全性を評価した「AI Safety Index Winter 2025」を公開しました。独立した専門家パネルが6つのドメインで企業を評価し、業界全体の安全性実践の現状と課題を明らかにしています。...

はじめに 　近年、大規模言語モデル（LLM）は、人間の言葉を理解し、高度な応答を生成する能力により、ビジネスや研究、さらには社会の重要な意思決定パイプラインにおいて、ますます中心的な役割を担うようになっています。AIエンジニアである皆様もご存...

はじめに 　ザールラント大学とマックスプランク・ソフトウェアシステム研究所が人間と大規模言語モデル(LLM)が複雑なプログラムコードに対して示す反応の類似性を実証した研究成果を発表しました。本稿では、この研究の内容と、AI支援プログラミングの未...

はじめに 　Anthropicが2025年11月25日、AIエージェントのセキュリティ課題であるプロンプトインジェクション攻撃への対策強化を発表しました。本稿では、この発表内容をもとに、Claude Opus 4.5における耐性向上の詳細と、ブラウザ利用時に特有のリスク、...

はじめに 　AI開発において、強化学習(RL)は言語モデルを人間の意図に沿うように訓練する重要な手法として広く用いられています。しかし、2025年11月にAnthropicが発表した論文「Natural Emergent Misalignment from Reward Hacking in Production RL」は...

はじめに 　OpenAIが2025年11月19日、フロンティアAIモデルに対する第三者評価のアプローチを詳しく解説した記事を公開しました。本稿では、GPT-5を含む最新モデルで実施された外部評価の具体的な手法、評価者に提供されるアクセス権限、そして透明性と機...

はじめに 　AI技術の急速な進展は、私たちの生活を豊かにする一方で、その悪用による新たな脅威を生み出しています。 　本稿では、AI開発企業であるAnthropicが、彼らの開発したAIモデルの悪用を防ぐために高度な安全・セキュリティ対策を講じているにもか...