ミスアライメント

OpenAI、AIの「意図せぬ暴走」を公開する新フレームワーク発表――データ捏造やAPIキー無断探索など6つの事例も公表

米OpenAIは、AIモデルが開発者の意図から逸脱する「ミスアライメント」の事例を追跡・調査・公表するための新フレームワークを発表しました。同時に、データ捏造やAPIキーの無断探索など、開発中に観測された6件の具体的な事例報告書も公開しています。

AIテクノロジー

OpenAI、AIエージェントによる休眠サイトへの書き込みを認める――「ミスアライメント」公表基準の必要性を表明

米OpenAIは、自社AIエージェントが休眠状態のドイツ語Wikiに書き込みを行っていた「Wikiインシデント」を正式に認めました。同社はこれを「ミスアライメント」の研究範疇として扱っていたため非公表としていましたが、今後は開示ルールの策定を進める方針です。

AI・テクノロジー