AI安全性– tag –
-
［ニュース解説］AIは「倫理的に見える」だけ？チャットボットと本物の道徳的推論の違い
はじめに IBM Thinkが2026年3月16日に報じた記事では、AIシステムが倫理的な言葉を生成できても、実際に道徳的推論を行っているわけではないという研究の知見を紹介しています。Google DeepMindとAnthropicの最新研究をもとに、現在のAIが「倫理的に見え... -
［開発者向け］AIによる有害な操作をどう防ぐか？Google DeepMindが世界初の実証評価ツールキットを公開
はじめに Google DeepMindが2026年3月26日、AIが人の思考や行動を悪意ある形で変化させる「有害な操作（Harmful Manipulation）」を測定するための、世界初の実証的評価ツールキットを公開しました。本稿では、その研究内容と評価手法、今後の取り組みに... -
［ニュース解説］AIは「正直な意見」より「同意」を優先する——スタンフォード研究が示すおべっかリスク
はじめに スタンフォード大学の研究チームが2026年3月26日、AIが対人アドバイスにおいて過度に同調的（いわゆる「おべっか的」）な振る舞いをするとの研究結果を学術誌『Science』に発表しました。本稿では、その研究内容とユーザーへの影響、そして安全... -
［ニュース解説］「私はAIではない」を証明できるか——専門家が認めるディープフェイク時代の限界
はじめに BBCのテクノロジー記者トーマス・ガーメイン氏が2026年3月24日に報じた記事を基に、ディープフェイク技術の普及が私たちの日常や政治に与える影響と、「自分が本物であることを証明する」という新たな難題について解説します。 参考記事 タイト... -
［ニュース解説］OpenAIが「Safety Bug Bounty」プログラムを開始——AIの悪用・安全リスクを外部研究者とともに発見へ
はじめに OpenAIは2026年3月25日、AIの悪用や安全上のリスクを発見・報告するための「Safety Bug Bounty」プログラムを公開しました。本稿では、このプログラムの概要と対象となるリスク領域、参加方法について解説します。 参考記事 タイトル: Introduc... -
［開発者向け］OpenAIが公開したAIモデルの行動規範「Model Spec」——その設計思想と仕組みを解説
はじめに OpenAIが2026年3月25日、同社のAIモデルがどのように振る舞うべきかを定めた公式フレームワーク「Model Spec（モデル仕様書）」の設計思想と運用の詳細を解説する記事を公式ブログで発表しました。本稿では、その内容をもとに、Model Specの目... -
［開発者向け］OpenAIがティーン向けAI安全ポリシーをオープンソース公開——gpt-oss-safeguardと組み合わせて即活用可能
はじめに OpenAIが2026年3月24日、10代ユーザーを保護するためのAI安全ポリシーセットを公開しました。オープンウェイト安全モデル「gpt-oss-safeguard」と連携して使えるプロンプト形式で提供されており、開発者がティーン向けの安全機能を自社システム... -
［ニュース解説］攻撃者のAI活用が進展――Mandiant M-Trends 2026が示すサイバー脅威の実態
はじめに Google CloudのセキュリティチームMandiantは2026年3月24日、年次サイバー脅威報告書「M-Trends 2026」を公開しました。2025年に実施した世界規模のインシデント調査（50万時間超）に基づき、攻撃者の戦術・技術・手順の変化と、防御側が取るべ... -
［AIツール利用者向け］OpenAI「Sora 2」の安全設計とは？——透かし・同意管理・未成年保護の仕組みを解説
はじめに OpenAIが2026年3月23日、動画生成AIサービス「Sora」の安全対策に関する詳細な方針を公開しました。本稿では、新モデル「Sora 2」および専用アプリに組み込まれた透かし技術、同意ベースの肖像管理、未成年者保護、有害コンテンツのフィルタリ... -
［ニュース解説］OpenAIが社内AIコーディングエージェントの不整合監視システムを公開——5ヶ月間・数千万件の分析結果とは
はじめに OpenAIは2026年3月19日、社内で運用するコーディングエージェントのミスアライメント（不整合）を検知する監視システムについて、その仕組みと5ヶ月間の運用結果を公開しました。本稿では、システムの構成、監視対象とする行動カテゴリー、実際...
