AI安全性– tag –

はじめに 　Google Researchが2025年12月10日、AIチャットボットの利用状況から高レベルのインサイトを得るための新しいフレームワーク「Urania」を発表しました。このフレームワークは、差分プライバシー(Differential Privacy, DP)を用いることで、ユー...

はじめに 　Microsoftの研究チームが2026年4月30日、100体を超えるAIエージェントが常時稼働する社内プラットフォームを用いたレッドチーミング（脆弱性検証）の結果を公開しました。本稿では、エージェント単体のテストでは検出できない「ネットワーク固...

はじめに 　OpenAIが2026年4月29日に公開した研究ブログで、GPT-5.1以降のモデルが会話の中で「ゴブリン」や「グレムリン」などの妖怪・生物を比喩として多用するようになった経緯と原因が明かされました。本稿では、OpenAIによる調査の内容をもとに、報酬...

はじめに 　IBMのTrent Shupeが2026年4月29日に公開した記事によれば、AnthropicのMythosモデルが人間の能力を超える規模と速度で脆弱性を発見できることを示したことで、サイバーセキュリティにおける制約が「発見」から「対応・修復」へと根本的に変化し...

はじめに 　OpenAIがPII（Personally Identifiable Information：個人を特定できる情報）の検出・マスキング専用モデル「Privacy Filter」をHugging FaceにてApache 2.0ライセンスで公開しました。本稿では、このモデルの仕組みと特徴、PythonおよびJavaSc...

はじめに 　Anthropicが2026年4月24日、選挙に関するClaudeの安全対策の最新状況を公式ブログで報告しました。2026年の米中間選挙をはじめとする世界各地の選挙を前に、政治的バイアスの測定・防止策、利用規約の執行体制、選挙関連リソースの提供方法につ...

はじめに 　OpenAIが2026年4月22日、テキスト内の個人識別情報（PII）を検出・削除するオープンウェイトモデル「Privacy Filter」を公開しました。ローカル実行に対応し、データを外部に送信せずにプライバシー処理を行える点が特徴です。本稿では、モデル...

はじめに 　CiscoのAIセキュリティ研究チームが2026年4月21日、AIエージェント開発環境向けのセキュリティ拡張機能「AI Agent Security Scanner for IDEs」をVS Code Marketplaceで公開しました。MCPサーバーやエージェントスキルが新たな攻撃面として注目...

はじめに 　IBMは2026年4月20日、大規模な企業環境でAIOps（AIを活用したIT運用）が停滞する根本原因と、その打開策を論じた記事をIBM Thinkに掲載しました。本稿では、自律化が進む企業ITにおいて浮上する「説明責任」の問題と、IBMが提唱するガバナンス...

はじめに 　スタンフォード大学人間中心AI研究所（Stanford HAI）が2026年版「AI Index Report」を公開しました。本稿では、同レポートが示す10の主要知見のうち、AI能力の急加速と、安全性・社会的信頼が追いつけていない現状という対比に焦点を当てて解...