AI安全性– tag –
-
［ビジネスマン向け］エージェントAI時代の「観測」問題：なぜ既存の監視ツールは限界を迎えつつあるのか
はじめに IBMのメディア「IBM Think」が2026年4月17日に公開したレポートを基に、エージェントAI時代のオブザーバビリティ（可観測性）が抱える課題と、その解決策として注目されるAI活用型の監視アプローチを解説します。自律的に判断・行動するAIが業... -
[開発者向け] AnthropicがClaude 9体でアライメント研究を自動化——弱から強への監視問題でPGR 0.97を達成
はじめに Anthropicは2026年4月14日、大規模言語モデルが自律的にアライメント研究を進められるかを検証した実験「自動化アライメント研究者（AAR）」の成果を発表しました。本稿では、その実験の設計・結果・課題と、アライメント研究の加速に向けた示... -
［開発者向け］本番環境でMLモデルを守る5つの監視原則——IBMが解説するモデルモニタリングの実践
はじめに IBMのメディア「IBM Think」が2026年に公開した記事で、本番稼働中の機械学習モデルを適切に監視するための5つの実践的原則が紹介されています。本稿では、その内容をもとに、MLモデルモニタリングの基本的な考え方と具体的な手法を解説します... -
［ニュース解説］OpenAIのmacOSアプリ署名証明書が更新へ——Axiosサプライチェーン攻撃の経緯と対応策
はじめに OpenAIは2026年4月10日、広く利用されているnpmライブラリ「Axios」が関与したソフトウェアサプライチェーン攻撃を受け、macOSアプリのコード署名証明書を更新すると発表しました。ユーザーデータや知的財産への被害は確認されていないものの、... -
［ニュース解説］OpenAIが公開した子どもの安全を守るAI政策ブループリント——3つの柱で何を目指すのか
はじめに OpenAIが2026年4月8日、AI技術を悪用した児童性的搾取（CSAM）の防止・対処を目的とした政策提言文書「Child Safety Blueprint（子どもの安全ブループリント）」を公開しました。本稿では、この文書の内容をもとに、提言の3つの柱とその背景、... -
［開発者向け］AIエージェントを安全・信頼できる形で使うために——Anthropicが示す設計思想と実践
はじめに AnthropicはAIエージェントの安全性と信頼性に関する考察を、2026年4月9日に公式ブログで公開しました。本稿では、エージェントの動作原理、人間によるコントロールの設計、プロンプトインジェクション対策、そして業界全体での基盤整備の必要... -
［AIツール利用者向け］GmailでGeminiを使っても、メールの内容はAI学習に使われない——Googleが明言
はじめに GoogleがAI機能「Gemini」のGmail統合に関するプライバシーポリシーを、2026年4月7日に公式ブログで改めて明確に説明しました。本稿では、その発表内容をもとに、GmailでGeminiを使う際のデータの扱いと、プライバシー保護の仕組みについて解説... -
［ニュース解説］MetaがAI安全性フレームワークを大幅更新——「なぜ安全か」を学習する新世代モデルとは
はじめに Metaが2026年4月8日、最先端AIの開発・評価プロセスを定めた「Advanced AI Scaling Framework」の改訂版を公開しました。あわせて、同社の新モデル「Muse Spark」に関する安全性評価レポートの公開も予告しています。本稿では、この発表内容を... -
［ニュース解説］AnthropicがAIサイバー防衛に本腰——「Project Glasswing」と未公開モデル「Claude Mythos Preview」が示す脅威と防御の新局面
はじめに Anthropicが2026年4月、AIを活用したサイバーセキュリティ強化イニシアティブ「Project Glasswing」を発表しました。AWS・Microsoft・Google・Ciscoなど12の大手企業・団体が参加し、未公開の最新フロンティアモデル「Claude Mythos Preview」... -
［ニュース解説］OpenAIが外部研究者向け安全性フェローシップを新設——AIの安全・アライメント研究を支援
はじめに OpenAIが2026年4月6日、外部の研究者やエンジニアを対象とした「OpenAI Safety Fellowship（セーフティフェローシップ）」の公募を開始しました。本稿では、このプログラムの概要と対象分野、応募要件などについて解説します。AIの安全性研究に...
