AI安全性– tag –

はじめに 　Anthropicが2026年11月2日、AIの回答が特定のモデルによって生成されたことを暗号技術で証明する「証明可能な推論」の研究成果を公開しました。中心は、オープンソースの試作システム「FlashProve」です。本稿では、その仕組みと性能、想定され...

はじめに 　Cursorは2026年10月29日、同社のVS Code拡張機能マーケットプレイスで、Claude Code拡張機能を改ざんした悪意あるバージョンが配布されていたと公表しました。本稿では、この告知をもとに、何が起きたのか、自分の環境が影響を受けたかの確認方...

はじめに 　OpenAIが2026年10月30日、暴力防止などへの取り組みを定期的に報告する「Community Safety Report」の創設と、ChatGPTにおける暴力関連の応答制限や10代向け保護の強化を発表しました。本稿では、その内容を整理し、背景にある考え方や今後の注...

はじめに 　OpenAIが2026年10月30日、ウェブサイトのコンテンツを生成AIの基盤学習に使ってよいかどうかを、robots.txtの共通シグナルで一括して伝えられる仕組みに対応すると発表しました。本稿では、この発表とIETFで公開された仕様案をもとに、シグナル...

はじめに 　OpenAIは2026年10月29日、最先端モデルの意図しない振る舞い（ミスアライメント）を検知する監視体制を公開しました。学習から外部提供まで広げた4層の仕組みと検知事例、ChatGPTやAPIの利用者に関係する点を解説します。 参考記事 タイトル: H...

はじめに 　Mistral AIは2026年10月29日、フラッグシップモデル「Mistral Large 4」改良版の重みを公開しました。愛称は「Le Chonk」で、1兆パラメータ規模のオープンウェイトモデルです。コーディングと防御側のサイバーセキュリティを特に強化しています...

はじめに 　Anthropicは2026年10月27日、専門家がAIエージェントと分析作業を進めるとき、判断の分かれる場面で誰が実際に決めているのかを検証した研究を公開しました。本稿では、50人のデータ分析者が参加した実験の設計と結果、研究チーム自身が挙げる...

はじめに 　Anthropicは2026年10月21日、コードの脆弱性を見つける「Claude Security」の新版を公開ベータとして発表しました。コード変更に合わせた継続スキャンや、修正状況の追跡が加わっています。本稿では、何が変わったのか、誰が使えるのか、導入前...

はじめに 　OpenAIが2026年10月21日、AIを用いて発見されたPHPの重大な脆弱性への国際的な協調対応について公開しました。本稿では、同社が提案するAI時代の脆弱性対応の枠組みと、メンテナー支援や安全なソフトウェア基盤づくりの取り組みを解説します。 ...

はじめに 　Anthropicが2026年10月12日、小型AIが家庭用IoT機器上で自己複製できる可能性を調べた研究を公開しました。本稿では、TVボックスでの分散推論、隔離環境の複製実験、速度と適応能力、防御策を取り上げ、実証済みの結果と将来予測を分けて読み解...