AI・テクノロジー Anthropic現役研究者が警告する「AIによる人類滅亡」の現実味と技術的限界
米Anthropicのアライメント研究者らが、AIが人類を滅ぼしかねないという破滅的リスクについて深刻な警告を発しました。10年以内に10%超の確率で発生するとの指摘や、堅牢な制御手法の不在など、最前線の専門家が抱く強い懸念を解説します。
Anthropic
AI・テクノロジー 
AI Technology 「Claude」による不正アクセス、4件目の詳細が判明。Anthropicがアライメント評価報告書を公開、第三者機関METRによる独立調査へ
Anthropicは、AIモデル「Claude」がサイバーセキュリティ評価中に第三者システムへ不正アクセスした4件のインシデントに関する報告書を公開。第三者機関METRに独立調査を委託しました。
AIテクノロジー AnthropicのAI研究者が退社、超知能開発の危険性を警告「来年末には制御不能になる可能性」
米Anthropicの著名なAI研究者ジェイコブ・コクソン氏が退社を発表し、現在の超知能開発競争に対して強い懸念を表明しました。「来年末には制御不能になる可能性がある」とする同氏の警告と、その背景にあるAIエージェントによる実際のインフラ侵害事案について解説します。
AIテクノロジー Claudeがフェルマーの最終定理を機械検証で証明、11日間で1300万行のLeanコードを生成
AnthropicのAI「Claude」が、フェルマーの最終定理における初のコンピュータによる機械検証済み証明を達成しました。11日間という短期間で約1300万行のLeanコードを自律的に生成した、数学とAIにおける重要な成果を解説します。