AI安全性– tag –

はじめに 　CNNが2025年11月13日に報じたところによれば、米国のノースカロライナ州とユタ州の司法長官が、OpenAIとMicrosoftと協力してAI安全性タスクフォースを設立しました。連邦レベルでのAI規制法が不在のなか、州レベルでAIの安全対策を開発する取り...

はじめに 　OpenAIが2025年11月7日、AIエージェントの安全性に関する重要な課題として「プロンプトインジェクション」攻撃について詳しく解説する記事を公開しました。本稿では、この発表内容をもとに、プロンプトインジェクション攻撃の仕組み、具体的な...

はじめに 　OpenAIが2025年10月30日、GPT-5を活用したセキュリティエージェント「Aardvark」を発表しました。ソースコードの脆弱性を自動的に発見し、修正案まで提示する本格的なAIセキュリティツールです。本稿では、Aardvarkの仕組みと性能、実用化に向...

はじめに 　OpenAIが2025年10月27日、ChatGPTにおけるメンタルヘルス関連の会話への対応を大幅に強化したと発表しました。170人以上のメンタルヘルス専門家との協力により、精神的苦痛のサインをより確実に認識し、適切なサポートへ導く機能を実装したとの...

はじめに 　近年、LLM（大規模言語モデル）は、企業による説得力のある広告作成から、政治キャンペーンのメッセージ最適化、ソーシャルメディアでのエンゲージメント向上まで、情報を生成し普及させる方法を大きく変えつつあります。これらの領域は本質的...

はじめに 　大規模言語モデル（LLM）は社会のインフラとして急速に普及しています。その基盤となる訓練データは、モデルの信頼性を左右する重要な要素ですが、近年のLLMの事前学習に用いられる訓練データは、公開ウェブから収集された大量のデータであり、...

はじめに 　Microsoftが2025年10月6日に発表した研究では、AI支援タンパク質設計（AIPD）ツールの可能性と危険性の両面が指摘されています。AI技術が生物学の分野で革新的なブレークスルーを生み出す一方で、同じ技術が有害なタンパク質の設計に悪用される...

はじめに 　 　近年、多くの10代の若者が友情や精神的な支えを求めて、AIチャットボットを利用するケースが増えています。いつでも話を聞いてくれて、肯定してくれるAIは、彼らにとって魅力的な存在に映るかもしれません。しかし、その手軽さの裏には、心...

はじめに 　本稿では、NVIDIAが2025年10月2日に公開したブログ記事をもとに、大規模言語モデル（LLM）を搭載したアプリケーションを開発する上で注意すべき、セキュリティ上の主要な脆弱性と、その具体的な対策について詳しく解説します。NVIDIAのセキュリ...

はじめに 　Anthropicは2025年9月、新しい大規模言語モデル（LLM）である「Claude Sonnet 4.5」を発表し、その詳細な評価結果をまとめたシステムカードを公開しました。このモデルは、特にコーディング、自律的なタスク（エージェントタスク）、コンピュー...