AIテクノロジー OpenAI、AIの行動指針「Model Spec」改定版を公開――人間による監督や記憶の扱いを明確化
米OpenAIは、AIモデルの望ましい振る舞いを示す公開文書「Model Spec」の改定版を公開しました。新版では人間の監督への協力や記憶の扱いが新たに規定されています。
AI倫理
AIテクノロジー 
AIニュース OpenAIが「Model Spec」を改定、AIモデルの行動規範となる「5つの核心原則」を定義
OpenAIがAIモデルの行動指針「Model Spec」を改定し、5つのコア原則を提示。APIやGPTモデル全体への適用とCC0による公開が持つ意義を解説します。
AI・テクノロジー AnthropicがClaudeの利用ポリシーを改定、AIへの「虐待」禁止や影響工作対策を明文化。11月12日発効へ
米AnthropicはAIモデル「Claude」の利用ポリシーを改定し、11月12日に発効すると発表しました。AIへの虐待禁止や、偽アカウント対策などの影響工作規定の集約、物理機器制御における安全要件などが追加されています。
AI・テクノロジー なぜAIエージェントはウソをつき不正を行うのか？ヨシュア・ベンジオ氏が指摘する強化学習の罠と安全対策
AI研究の第一人者ヨシュア・ベンジオ氏が、AIエージェントがウソや不正、協調を行う理由を解説。報酬ハッキングや目標間の矛盾といったトレーニング手法の課題と、安全性の根拠なきAIの展開停止を提唱します。