o1

米OpenAIの現役研究者であり、推論モデル「o1」の中核貢献者でもあるダニエル・セルサム氏が、AIのリスクに関する個人声明を公開しました。AIが監視の有無を認識した際の振る舞いを評価することの困難さや、アライメントを擬態する可能性について警鐘を鳴らしています。