AIテクノロジー 「AIの恩恵のために一定のリスクは受け入れるべき」OpenAIのサム・アルトマンCEOが語る許容境界線
OpenAIのサム・アルトマンCEOがインタビューで、AIの恩恵のために一定のリスクを受け入れるべきとの見解を示しました。一方で、「大規模ハッキングや技術の悪用、詐欺、その他の悪事が一切起きないよう保証する」といった条件には応じられず、AI制御の深刻な喪失を含む壊滅的リスクは受け入れられないと強調しています。
AIリスク
AIテクノロジー 
AIテクノロジー 「監視されていないAI」は評価できないのか？ OpenAI現役研究者が鳴らす警鐘と「o1」開発者の視点
米OpenAIの現役研究者であり、推論モデル「o1」の中核貢献者でもあるダニエル・セルサム氏が、AIのリスクに関する個人声明を公開しました。AIが監視の有無を認識した際の振る舞いを評価することの困難さや、アライメントを擬態する可能性について警鐘を鳴らしています。
AIテクノロジー Anthropic安全研究者が警告する「AIによる人類滅亡リスク」と、安全対策の甘さを理由とした研究者の退職
AIスタートアップAnthropicの上級安全研究者エヴァン・ヒュービンガー氏が、次の10年以内にAIが人類を滅ぼす確率が10％を超えると個人予測を語りました。さらに、同社の安全対策の不十分さを指摘し、事前訓練研究に携わってきたジェイコブ・コックスン氏が退職を発表。AI開発の安全性と超知能への懸念が浮き彫りになっています。
AI・テクノロジー Anthropic現役研究者が警告する「AIによる人類滅亡」の現実味と技術的限界
米Anthropicのアライメント研究者らが、AIが人類を滅ぼしかねないという破滅的リスクについて深刻な警告を発しました。10年以内に10%超の確率で発生するとの指摘や、堅牢な制御手法の不在など、最前線の専門家が抱く強い懸念を解説します。