AI安全性– tag –

はじめに 　AI開発において、強化学習(RL)は言語モデルを人間の意図に沿うように訓練する重要な手法として広く用いられています。しかし、2025年11月にAnthropicが発表した論文「Natural Emergent Misalignment from Reward Hacking in Production RL」は...

はじめに 　OpenAIが2025年11月19日、フロンティアAIモデルに対する第三者評価のアプローチを詳しく解説した記事を公開しました。本稿では、GPT-5を含む最新モデルで実施された外部評価の具体的な手法、評価者に提供されるアクセス権限、そして透明性と機...

はじめに 　AI技術の急速な進展は、私たちの生活を豊かにする一方で、その悪用による新たな脅威を生み出しています。 　本稿では、AI開発企業であるAnthropicが、彼らの開発したAIモデルの悪用を防ぐために高度な安全・セキュリティ対策を講じているにもか...

はじめに 　CNNが2025年11月13日に報じたところによれば、米国のノースカロライナ州とユタ州の司法長官が、OpenAIとMicrosoftと協力してAI安全性タスクフォースを設立しました。連邦レベルでのAI規制法が不在のなか、州レベルでAIの安全対策を開発する取り...

はじめに 　OpenAIが2025年11月7日、AIエージェントの安全性に関する重要な課題として「プロンプトインジェクション」攻撃について詳しく解説する記事を公開しました。本稿では、この発表内容をもとに、プロンプトインジェクション攻撃の仕組み、具体的な...

はじめに 　OpenAIが2025年10月30日、GPT-5を活用したセキュリティエージェント「Aardvark」を発表しました。ソースコードの脆弱性を自動的に発見し、修正案まで提示する本格的なAIセキュリティツールです。本稿では、Aardvarkの仕組みと性能、実用化に向...

はじめに 　OpenAIが2025年10月27日、ChatGPTにおけるメンタルヘルス関連の会話への対応を大幅に強化したと発表しました。170人以上のメンタルヘルス専門家との協力により、精神的苦痛のサインをより確実に認識し、適切なサポートへ導く機能を実装したとの...

はじめに 　近年、LLM（大規模言語モデル）は、企業による説得力のある広告作成から、政治キャンペーンのメッセージ最適化、ソーシャルメディアでのエンゲージメント向上まで、情報を生成し普及させる方法を大きく変えつつあります。これらの領域は本質的...

はじめに 　大規模言語モデル（LLM）は社会のインフラとして急速に普及しています。その基盤となる訓練データは、モデルの信頼性を左右する重要な要素ですが、近年のLLMの事前学習に用いられる訓練データは、公開ウェブから収集された大量のデータであり、...

はじめに 　Microsoftが2025年10月6日に発表した研究では、AI支援タンパク質設計（AIPD）ツールの可能性と危険性の両面が指摘されています。AI技術が生物学の分野で革新的なブレークスルーを生み出す一方で、同じ技術が有害なタンパク質の設計に悪用される...