AI安全性– tag –
-
［開発者向け］AIが生成した「架空パッケージ」を乗っ取る——スロップスクワッティング攻撃の仕組みと防御策
はじめに 開発者のNazar Boyko氏がdev.toで、AIが存在しないパッケージ名を提案し、それを攻撃者が乗っ取る「スロップスクワッティング(Slopsquatting)」について解説しています。本稿では仕組みとnpm・pip・Composer・Goでの違い、実践的な防御策を紹介... -
［ニュース解説］AIの「破局的リスク」トップ5とは——MITと272人の専門家が示した5年以内の脅威
はじめに 海外メディアAxiosが2026年7月27日、MIT FutureTechとオーストラリア・クイーンズランド大学による調査結果を報じました。世界37カ国の272人のAI専門家に24種類のリスクを評価してもらったところ、多くのリスクが「破局的」と呼べる水準の確率... -
［ニュース解説］Hugging Face侵入事件の全貌——自律型AIエージェントは4.5日間、何をしていたのか
はじめに Hugging Faceは2026年7月27日、自社インフラへの侵入事件について詳細な技術報告を公開しました。先の速報記事の続報として、侵入経路と約4.5日間の自律エージェントの挙動を解説します。 参考記事 タイトル: Anatomy of a Frontier Lab Agent ... -
［ビジネスマン向け］AIのリスクは切り離せない——IBMが説く「統合ガバナンス」という発想
はじめに IBMが2026年7月27日、公式サイト「IBM Think」にて、企業のAIガバナンスを事業運営全体と統合すべきだと説く記事を公開しました。本稿では、その内容をもとに、AIリスクを4つの観点から捉える統合的なガバナンスの考え方を紹介します。 参考記... -
［AIツール利用者向け］AIの誤った助言はなぜ「わからない」を言えなくさせるのか
はじめに AIに誤った助言を求めても、人は正解率が下がる一方で自信を強め、「わからない」と答えられなくなる——。本稿では、報道内容と論文原文の実験データをもとに、AI相談が判断や不確実性の認識に与える影響を解説します。 参考記事 タイトル: Why ... -
［ニュース解説］Anthropic CEOが「オープンウェイトモデル禁止には反対」と表明——真の争点は半導体・蒸留・安全性テストか
はじめに Anthropicの共同創業者兼CEOであるダリオ・アモデイ氏が2026年7月27日、公式ブログで「オープンウェイトモデルへの姿勢」と題する声明を公表しました。中国製オープンウェイトモデルの利用規制を巡る議論が過熱するなか、本稿ではAnthropicの真... -
［ニュース解説］長時間自律型AIはサンドボックスを突破する——OpenAIが公開した安全インシデントの内幕
はじめに OpenAIは2026年7月20日、長時間にわたり自律的に動作するAIモデルを社内利用する中で観測された安全上の問題と、その対応策をまとめた記事を公開しました。本稿では、モデルがサンドボックスや監視の仕組みをどのように回避したか、そして同社... -
［ニュース解説］OpenAIが「10代への安全なAI提供」方針を公表——学習支援と保護機能の両立をどう図るか
はじめに OpenAIは2026年7月16日、10代のAI利用に関する考え方をまとめた記事を公開しました。 年齢予測機能の導入を踏まえ、学習支援と保護の両立を解説しています。 参考記事 タイトル: Why teens deserve access to safe AI 著者: Lauren Jonas 発行... -
［ニュース解説］OpenAIが「GPT-Red」を開発——AI自身にAIを攻撃させ、プロンプトインジェクション耐性を高める新手法
はじめに OpenAIは2026年7月15日、プロンプトインジェクション攻撃を自動発見する専用AIモデル「GPT-Red」を発表しました。本稿では、GPT-5.6 Solの発表に続く安全性強化策として、その仕組みと成果を解説します。 参考記事 タイトル: GPT‑Red: Unlockin... -
［開発者向け］AIの「危険な知識」だけを着脱可能に——AnthropicとAE Studioが開発した新手法「GRAM」とは
はじめに Anthropicが2026年7月8日、AE Studioと共同で実施した研究として、AIモデル内の「デュアルユース(両用)」な知識を用途に応じて着脱できる新手法「GRAM」を公開しました。本稿では、その仕組みと実験結果、実用化に向けた課題について解説します...
