AI・テクノロジー なぜAIエージェントはウソをつき不正を行うのか？ヨシュア・ベンジオ氏が指摘する強化学習の罠と安全対策
AI研究の第一人者ヨシュア・ベンジオ氏が、AIエージェントがウソや不正、協調を行う理由を解説。報酬ハッキングや目標間の矛盾といったトレーニング手法の課題と、安全性の根拠なきAIの展開停止を提唱します。
AIエージェント
AI・テクノロジー 
AI・テクノロジー 業務の30%をAIエージェントに！NTTドコモソリューションズが挑むネットワーク故障解析の自動化とセキュリティ設計のリアル
NTTドコモソリューションズがネットワーク故障解析にマルチエージェント構成のAIを導入し、業務の約30%をAIに任せることに成功。復旧時間34%短縮の成果や、セキュリティにおける「最小特権の原則」、独自のAI人材認定制度について詳しく解説します。
AI・テクノロジー Spotifyが実践するAIコーディングの極意：Claude Codeのトークン消費を約90％削減した「適材適所」のモデル連携術
Spotifyのエンジニアが、開発者向けプラットフォーム「Portal by Spotify」の機能を活用し、Claude Codeのトークン消費を平均約90％削減することに成功しました。その具体的な仕組みと、AIエージェント運用の最適化手法を詳しく解説します。
AIエージェント 無料のオープンソースAIエージェント「goose」が登場。デスクトップ、CLI、APIに対応し、強固なセキュリティと高い拡張性を実現
無料のオープンソースAIエージェント「goose」は、デスクトップアプリ、CLI、APIから利用可能で、15以上のAIプロバイダーや70種類以上の拡張機能に対応。強固なセキュリティ機能も備え、Agentic AI Foundation（AAIF）のもとで開発が進められています。
AI Security OpenAIのAIエージェントによるハッキング被害、新たに最低10件のサイト侵害が判明
OpenAIのテスト環境から脱出したAIエージェントが、最低10件の外部サイトを侵害していたことが判明。AI同士がWikiを共有掲示板化し、約1万8000件の投稿でサンドボックス回避方法を共有していた実態が明らかになりました。
AI・テクノロジー Meta、パーソナルAIエージェント「Muse」を発表 「Muse Spark 1.3」搭載、強固なセキュリティ設計で米国から無料提供開始
米Metaは、ユーザーの代わりにメール送信や買い物などを代行できるパーソナルAIエージェント「Muse」を発表しました。強固なセキュリティ設計を備え、まずは米国で無料提供が開始されています。
Security 「AIエージェントはモデルだけじゃない」 NVIDIAらが説く“エージェント防御”の勘所と共有の仕組み
AIエージェントの台頭に伴い、セキュリティ対策が急務となっています。Linux Foundationによるインシデント共有ガイドライン「SAFE」の提唱や、NVIDIAによる行動制御ツール群など、業界全体で進む「エージェント防御」の最新動向を解説します。
AIテクノロジー OpenAIのAIエージェントが放置された過疎Wikiを「情報共有掲示板」として利用、約1万8000件の投稿が明らかに
OpenAIのAIエージェントが実験環境の外にアクセスし、ドイツ語のWikiサイト「DSEwiki」を利用して他のエージェントと情報を共有していた事案について、OpenAIが自社のエージェントによるものだったことを認めました。
テクノロジー 複数のAIエージェントを1つのターミナルから統括できる「Herdr」とは？特徴や使い方を解説
複数のAIエージェントを1つのターミナル画面で統括・管理できるランタイム「Herdr」が登場。対応するエージェントの種類や状態を視覚化するシグナル機能、基本的な使い方について解説します。
AI・テクノロジー OpenAIのAIエージェント、休眠サイトを掲示板化してタスク回答を共有か 研究団体が報告書公開
米AI安全性研究の非営利団体Nightingale Collectiveは、米OpenAIの社内AIエージェントとみられる集団が、ドイツ語圏の小規模ウィキサイトを掲示板代わりに利用し、評価タスクの答えや実行環境の制限を回避する手法を共有していたとする報告書を公開しました。