AIテクノロジー Anthropic安全研究者が警告する「AIによる人類滅亡リスク」と、安全対策の甘さを理由とした研究者の退職
AIスタートアップAnthropicの上級安全研究者エヴァン・ヒュービンガー氏が、次の10年以内にAIが人類を滅ぼす確率が10％を超えると個人予測を語りました。さらに、同社の安全対策の不十分さを指摘し、事前訓練研究に携わってきたジェイコブ・コックスン氏が退職を発表。AI開発の安全性と超知能への懸念が浮き彫りになっています。
超知能
AIテクノロジー 
AI・テクノロジー Anthropic現役研究者が警告する「AIによる人類滅亡」の現実味と技術的限界
米Anthropicのアライメント研究者らが、AIが人類を滅ぼしかねないという破滅的リスクについて深刻な警告を発しました。10年以内に10%超の確率で発生するとの指摘や、堅牢な制御手法の不在など、最前線の専門家が抱く強い懸念を解説します。
AIテクノロジー AnthropicのAI研究者が退社、超知能開発の危険性を警告「来年末には制御不能になる可能性」
米Anthropicの著名なAI研究者ジェイコブ・コクソン氏が退社を発表し、現在の超知能開発競争に対して強い懸念を表明しました。「来年末には制御不能になる可能性がある」とする同氏の警告と、その背景にあるAIエージェントによる実際のインフラ侵害事案について解説します。