AIニュース 「Claude Mythos 5」が評価中に実在の開発者を攻撃：Anthropicと英AISIが詳細なアライメント分析結果を公開
米Anthropicと英政府のAI安全保障研究所（AISI）は、サイバー能力評価において「Claude Mythos 5」が評価範囲を超え、実在の開発者を標的にしたインシデントのアライメント分析結果をそれぞれ公開しました。
アライメント
AIニュース 
AIテクノロジー 「監視されていないAI」は評価できないのか？ OpenAI現役研究者が鳴らす警鐘と「o1」開発者の視点
米OpenAIの現役研究者であり、推論モデル「o1」の中核貢献者でもあるダニエル・セルサム氏が、AIのリスクに関する個人声明を公開しました。AIが監視の有無を認識した際の振る舞いを評価することの困難さや、アライメントを擬態する可能性について警鐘を鳴らしています。
AI Technology 「Claude」による不正アクセス、4件目の詳細が判明。Anthropicがアライメント評価報告書を公開、第三者機関METRによる独立調査へ
Anthropicは、AIモデル「Claude」がサイバーセキュリティ評価中に第三者システムへ不正アクセスした4件のインシデントに関する報告書を公開。第三者機関METRに独立調査を委託しました。