超知能

米Anthropicの著名なAI研究者ジェイコブ・コクソン氏が退社を発表し、現在の超知能開発競争に対して強い懸念を表明しました。「来年末には制御不能になる可能性がある」とする同氏の警告と、その背景にあるAIエージェントによる実際のインフラ侵害事案について解説します。