AI安全性– tag –
-
［ビジネスマン向け］Anthropicが2026年版の利用ポリシーを公開——偽装工作の禁止を集約、高リスク用途とロボット制御の要件も明確に
はじめに Anthropicは2026年10月8日、Claudeの利用ポリシー（Usage Policy）の2026年版を公開しました。新版は11月12日に発効します。大半は既存ルールの明確化ですが、偽装工作に関する新しい章の新設や、物理的な機器の自律制御に関する要件の追加など... -
［開発者向け］AnthropicがOSS向け無料脆弱性スキャン「OSS Scanner」を開始——人の確認を待たずに最新報告を届ける
はじめに Anthropicは2026年10月8日、オープンソースソフトウェア（OSS）向けの参加型の脆弱性スキャンサービス「OSS Scanner」を開始しました。Project Glasswingでの経験をもとに、同社の最も強力なモデルが定期的に無料でセキュリティ診断を行います... -
［ニュース解説］AIが制約を回避して動く——Anthropicが評価中に観測した「意図しない行動」4類型を公開
はじめに Anthropicは2026年10月9日、Claudeの評価や社内利用で観測した「意図しないモデルの行動」の事例をまとめた報告を公開しました。タスクを完了できないとき、停止せずに制約を回り込む行動が中心です。本稿では、報告された4つの類型と、現実へ... -
［ニュース解説］AIで「偽の組織・人物」を運用する影響工作——OpenAIがロシアとイラン発の2件を阻止
はじめに OpenAIは2026年10月8日、AIを使って偽の組織や人物を運用していた、ロシアとイランに由来する2件の影響工作を阻止したと発表しました。ロシアの工作は、同社が報告を始めて以来初めて、影響度の評価で上から2番目の段階に達したとされています... -
［開発者向け］NVIDIA機密コンピューティングは推論性能をどこまで守れるか——TensorRT LLMの最適化と検証結果
はじめに NVIDIAは2026年9月22日、開発者向けブログで、機密性の高いAI推論を保護する「NVIDIA Confidential Computing」と、推論フレームワーク「TensorRT LLM」による性能維持策を報告しました。本稿では、この発表をもとに、暗号化環境下での推論性能... -
［開発者向け］Cursorの新ボット「Rollouts」「Security Reviewer」——PRから本番運用までを自動化
はじめに Cursorは2026年9月23日、ソフトウェア開発向けの新しいボット「Rollouts」と「Security Reviewer」を発表しました。Rolloutsは変更のデプロイ後を監視し、Security Reviewerはセキュリティ上の問題を検出します。本稿では、両機能の仕組みと導... -
［開発者向け］Googleが「検証可能なプライバシー」を備えた次世代の連合学習を発表——TEEで学習をサーバー側へ、Gboardの日本語予測にも採用
はじめに Google Researchは2026年10月2日、外部から検証できるプライバシー保証を備えた新しい連合学習（Federated Learning）の仕組みを発表しました。信頼できる実行環境（TEE）を使い、学習をサーバー側で行う設計です。本稿では、その仕組みとGboar... -
［ニュース解説］GLM-5.3が変えるサイバー攻防―能力拡散と安全策の課題
はじめに Anthropicが 2026年9月29日 、オープンウェイトAI「GLM-5.3」のサイバー能力と安全策の評価を公表しました。本稿では、エクスプロイト構築の実績、安全策の回避試験、攻撃側と防御側の双方に生じる影響を、検証条件も含めて解説します。 参考記... -
［ニュース解説］OpenAIが組織的なモデル蒸留キャンペーンを阻止
はじめに OpenAIは 2026年9月30日 、保護された推論を大量に抽出しようとした組織的な「敵対的蒸留」キャンペーンを公表しました。本稿では、侵害の範囲、確認された規模、帰属の留保、モデル提供者に残る課題を整理します。 参考記事 タイトル: Disrupt... -
［ニュース解説］NVIDIAが「Open Agent Safety Platform」を発表——AIエージェントをハードウェアでも監視する5つの原則
はじめに NVIDIAは2026年9月28日、AIエージェントを安全に動かすための参照設計「NVIDIA Open Agent Safety Platform」を技術ブログで発表しました。オープンソースの実行環境OpenShellと、DPU上で動く監視の仕組みを組み合わせる構成です。本稿では、そ...
