AI安全性– tag –
-
［ニュース解説］ChatGPTが「会話の文脈」から危機サインを読み取る——OpenAIが公開した安全性アップデートの全容
はじめに OpenAIが2026年5月14日、ChatGPTの安全性アップデートに関する詳細を公表しました。今回の更新では、単一メッセージだけでなく会話全体の流れや複数の会話をまたいだ文脈から危機サインを検出する仕組みが導入されています。本稿では、その技術... -
［開発者向け］GitHub Copilot Agentのテストが「壊れる」理由——ドミネータ解析で「必須の動作」だけを検証する「Trust Layer」とは
はじめに GitHub BlogでGaurav Mittal・Reshabh Kumar Sharmaが2026年5月6日に公開した技術記事では、GitHub Copilot Coding Agentのような自律エージェントを対象とした新しいテスト検証フレームワーク「Trust Layer」が紹介されています。本稿では、そ... -
［開発者向け］Claudeの「内部思考」を文字に変換する——AnthropicがNLAを発表、コードも公開
はじめに Anthropicが2026年5月7日、AIモデルのアクティベーション（内部状態）を自然言語テキストに変換する新しい解釈可能性手法「NLA（Natural Language Autoencoder：自然言語オートエンコーダー）」を発表しました。安全テストへの応用実績とともに... -
［開発者向け］エージェント生成PRのレビューで見落としてはならない5つの落とし穴——GitHubが示す実践的チェックリスト
はじめに GitHubブログが2026年5月7日、AIエージェントが生成したプルリクエスト（PR）のレビュー方法をまとめた実践ガイドを公開しました。本稿では、エージェント生成コードに特有のリスクと落とし穴、そして10分で実施できるレビュー手順の要点を解説... -
［ニュース解説］年齢確認法がオープンソース開発者に波及——GitHubが伝える規制の現状と対応策
はじめに GitHubが2026年5月8日、世界各地で進む年齢確認(エイジアシュアランス)法制化の動向と、オープンソース開発者への影響を解説するブログ記事を公開しました。子どものオンライン安全を目的とした法律が、OS・アプリストアを経由して開発者インフ... -
［ニュース解説］Claudeが「なぜ」を学ぶと不整合行動が消える——Anthropicが開示した安全性訓練の4つの知見
はじめに AnthropicがAIの安全性訓練について詳しく解説したブログ記事を、2026年5月8日に公開しました。Claude 4以降で確認されたエージェント的な不整合行動の原因を分析し、その改善に有効だった訓練手法を4つの知見として整理しています。本稿ではそ... -
［ニュース解説］OpenAIがサイバー防衛専用モデル「GPT‑5.5‑Cyber」を限定公開——3段階の信頼アクセス体制でセキュリティエコシステムを強化
はじめに OpenAIが2026年5月7日、重要インフラのセキュリティ担当者向けにAIモデル「GPT‑5.5‑Cyber」の限定プレビュー公開を発表しました。4月に参加組織が公開された「Trusted Access for Cyber」の拡張として位置づけられており、本稿では3段階のアク... -
［ニュース解説］Anthropic Instituteが研究アジェンダを公開——経済・脅威・社会・AI開発の4領域と具体的な問い
はじめに Anthropicは2026年5月7日、The Anthropic Institute（TAI）が取り組む研究アジェンダを公式サイトで公開しました。2026年3月に設立されたTAIは今回、経済的普及・脅威とレジリエンス・現実世界でのAIシステム・AI主導のR&Dという4つの研究... -
［ニュース解説］AnthropicのAIアライメント評価ツール「Petri 3.0」、Meridian Labsへ移管——独立性確保と機能刷新の全容
はじめに Anthropicは2026年5月7日、AIアライメント評価ツール「Petri」のバージョン3.0をリリースするとともに、その開発をAI評価専門の非営利組織「Meridian Labs」に移管したと発表しました。本稿では、Petri 3.0の主な変更点と、移管の背景にある独... -
［ビジネスマン向け］生成AIが「企業データの入口」になった今、ガバナンスはどう変わるべきか
はじめに IBMのシニアセキュリティコンサルタント、Vidhyashree Krishnamurthy氏が2026年5月5日に公開した記事では、生成AI導入が加速するなかで見落とされがちな「データ露出リスク」の実態が論じられています。本稿では、企業がAI活用の場面で直面する...
