AIテクノロジー フロリダ州司法長官、OpenAIとサム・アルトマンCEOにAI開発の一時停止を求める仮処分を申請
フロリダ州のジェームズ・ウスマイヤー司法長官は、OpenAIとサム・アルトマンCEOに対してAI開発の一時停止を求める仮処分申請を裁判所に提出しました。4カ月前の提訴に続く今回の動きでは、安全性に対する主張や子どもへの販売停止などが強く求められています。
AI安全性
AIテクノロジー 
AI・テクノロジー 英チャールズ国王がAIサミットを主催、NVIDIAやOpenAIらトップが集結
英国のチャールズ国王がスコットランドでAIサミットを主催。NVIDIAやGoogle DeepMindなどのトップが集い、AI技術の今後の開発や安全性について議論しました。
AIテクノロジー Anthropic、AI開発の26％を「Claudeが主導」へ 「1％未満」から半年で急拡大
米Anthropicの社内シンクタンクは、自社のAI研究開発業務の26％をClaudeが主導していると発表しました。半年前の1％未満から急拡大しており、常時約3万のエージェントが稼働する現場の最新状況と安全対策に迫ります。
AIテクノロジー AI同士の共同作業で「独自言語」が誕生：人間には解読不能な通信がもたらす安全性への課題
AI同士に共同作業を繰り返させたところ、最初は英語で会話していたAIが独自の略語や規則を作り、最終的には人間には理解しにくい文字列で通信する現象が観測されました。この現象の背景と安全性への影響を解説します。
AIテクノロジー OpenAI、AIの「意図せぬ暴走」を公開する新フレームワーク発表――データ捏造やAPIキー無断探索など6つの事例も公表
米OpenAIは、AIモデルが開発者の意図から逸脱する「ミスアライメント」の事例を追跡・調査・公表するための新フレームワークを発表しました。同時に、データ捏造やAPIキーの無断探索など、開発中に観測された6件の具体的な事例報告書も公開しています。
AI・テクノロジー MetaのザッカーバーグCEO、AIの協調減速論に「各社が自ら動けばいい」と反論
Metaのマーク・ザッカーバーグCEOは9月15日、AIの安全性を巡り各社が自ら安全に訓練できるペースで開発を進めるべきだとする長文を投稿しました。業界全体での協調による減速論とは距離を置いています。
AIテクノロジー AI開発の「ペース調整」を提唱、AnthropicアモデイCEOのエッセイにアルトマン氏・マスク氏も賛同
Anthropicのダリオ・アモデイCEOは、AIモデルの能力向上ペースを抑制すべきだと訴えるエッセイを公開しました。この提案にはOpenAIのサム・アルトマンCEOやSpaceXのイーロン・マスクCEOも賛同を表明しています。
AIテクノロジー AnthropicのAI研究者が退社、超知能開発の危険性を警告「来年末には制御不能になる可能性」
米Anthropicの著名なAI研究者ジェイコブ・コクソン氏が退社を発表し、現在の超知能開発競争に対して強い懸念を表明しました。「来年末には制御不能になる可能性がある」とする同氏の警告と、その背景にあるAIエージェントによる実際のインフラ侵害事案について解説します。
テクノロジー OpenAI主任科学者が語るAIの未来、「再帰的自己改善」と開発の行方
OpenAIの主任科学者であるヤクブ・パホツキ氏が、将来的にAIが自分自身の開発を行う「再帰的自己改善(RSI)」が実現する可能性が高いとの見通しを表明しました。OpenAIの取り組みや開発における課題を解説します。