プロンプトインジェクション

Claudeがブラウザを自律操作する「Claude in Chrome」一般提供開始　懸念されるプロンプトインジェクションをどう防ぐのか？

Anthropicは、Webブラウザを自律操作できるChrome拡張機能「Claude in Chrome」の一般提供を開始しました。懸念されるプロンプトインジェクションに対し、安全性分類器とプローブを組み合わせた高度な防御システムを導入しています。

AIテクノロジー

「Copilot、Word文書まとめて」に潜む罠。勝手に増殖する「AIワーム」の脅威と対策

Word用Microsoft Copilotを介して感染を広げる「AIワーム」の実証実験が公開されました。文書内の見えない命令をAIが実行してしまう「クロスドメイン・プロンプトインジェクション」の仕組みと、企業が取るべき対策を解説します。