AI安全性– tag –
-
［ニュース解説］OpenAI Japanが「未成年の安全ブループリント」を発表——高校生の6割が使う生成AIへの保護指針とは
はじめに OpenAI Japanが2026年3月17日、未成年ユーザーが生成AIを安全に活用できるようにするための指針「未成年の安全性に関するブループリント」を公表しました。日本では高校生の約6割が生成AIを利用するとされる中、年齢に応じた保護の仕組みと保護... -
［AIツール利用者向け］AIツールを「踏み台」として使う——専門家が伝える活用の原則
はじめに The Guardian（英国）が2026年3月18日に報じた記事では、複数の専門家の見解をもとに、AIツールを責任ある形で活用するためのステップが紹介されています。本稿では、その内容を整理し、実際にどのような場面でAIを使うべきか、また何に注意す... -
［ニュース解説］AIエージェント「OpenClaw」のセキュリティリスク——プロンプトインジェクションとデータ流出の実態
はじめに The Hacker Newsが2026年3月14日に報じた内容をもとに、AIエージェント「OpenClaw」に関するセキュリティ上の懸念を解説します。中国の国家機関CNCERTが注意喚起を発出し、悪意ある操作によって機密情報が流出するリスクが具体的に示されました... -
［開発者向け］AIエージェントをプロンプトインジェクションから守る——OpenAIが示す設計の考え方
はじめに OpenAIが2026年3月11日、AIエージェントのセキュリティに関する技術的な考え方を公開しました。本稿では、プロンプトインジェクション攻撃がどのように進化しているか、そしてOpenAIがどのような設計思想でこれに対処しているかを解説します。 ... -
［ニュース解説］AnthropicがAI社会課題に向き合う研究機関「Anthropic Institute」を設立
はじめに Anthropicは2026年3月11日、強力なAIが社会にもたらす課題に取り組む新組織「The Anthropic Institute」の設立を発表しました。本稿では、設立の背景、組織体制、主要メンバー、およびあわせて拡張される公共政策チームについて解説します。 参... -
［ニュース解説］AIが生成した虚偽引用で弁護士が制裁対象に——米国連邦検察官の事例から考えるAI活用のリスク
はじめに 米ノースカロライナ州の地方紙「Raleigh News & Observer」が2026年3月11日に報じた内容によれば、連邦地方検事補が法廷提出書類の作成にAIを使用し、虚偽の引用や事実の誤りが多数含まれた書類を裁判所に提出したとして、制裁審問の対象と... -
［開発者向け］OpenAIが「命令の優先順位」を強化するトレーニングデータセット「IH-Challenge」を公開
はじめに OpenAIが2026年3月10日、AIモデルが複数の命令源から受け取る指示を正しく優先処理するための強化学習データセット「IH-Challenge」を発表しました。本稿では、その設計思想と実験結果、そして安全性への実用的な影響について解説します。 参考... -
［ニュース解説］OpenAIロボティクス幹部が辞任——国防総省との契約をめぐる倫理的懸念とは
はじめに NPRが2026年3月8日に報じた内容によれば、OpenAIのロボティクス部門に所属するシニアスタッフ、ケイトリン・カリノウスキー氏が、同社と米国防総省（Pentagon）との協力協定をめぐる懸念を理由に辞任しました。本稿では、この辞任の経緯と背景... -
［開発者向け］推論モデルは自分の思考を制御できない——OpenAIが明かすAI安全性の「意外な朗報」
はじめに OpenAIが2026年3月5日に発表した研究により、現在の推論AIモデルが自身の思考プロセス（チェーン・オブ・ソート）を意図的に操作する能力を持たないことが示されました。本稿では、この発見がAI安全性にとってなぜ重要な意味を持つのかを解説し... -
［開発者向け］OpenAIのAIセキュリティエージェント「Codex Security」リサーチプレビュー開始——コードの脆弱性を自律検出・修正提案
はじめに OpenAIが2026年3月6日、アプリケーションセキュリティエージェント「Codex Security」のリサーチプレビューを開始しました。本稿では、このツールの仕組みと性能、そしてOpenAIによるオープンソースコミュニティへの支援活動についてまとめます...
