OpenAIが提言する「次世代AI」の国際標準策定
米OpenAIは9月21日（現地時間）、「Building standards for the next phase of AI」と題した公式ブログを公開しました。この中で同社は、再帰的自己改善（RSI：Recursive Self-Improvement）を含むフロンティアAIの国際的な技術標準について、米国が主導し、各国と共同で策定すべきであるとの提言を行いました。
AI技術が急速に進化する中、次世代のフロンティアAIがもたらす影響力やリスクをどのように管理すべきかという議論が世界中で活発化しています。OpenAIの今回の提言は、技術的な主導権を確保しつつ、国際的な協調体制を構築するための具体的な道筋を示したものとして注目されます。
「再帰的自己改善（RSI）」の現状と安全性の確保
今回の提言において、特に重要な焦点となっているのが「再帰的自己改善（RSI）」と呼ばれる技術です。RSIとは、AIが自らのコードやアルゴリズムを自律的に改良し、急速に能力を向上させていくプロセスを指します。
OpenAIは、完全に自律的なRSIは現時点では起きていないとの認識を示しています。その上で、安全に実施できるようになるまでは、この技術を追求すべきではないという慎重な立場を明確にしました。
同社は、RSIを進めるかどうかの判断基準として、以下の点を挙げています。
- 人間による制御を維持できるかどうか
- 技術の利点とリスクに関する民主的な判断に委ねられるべきであること
もし慎重さを欠いたまま開発を進めてしまえば、人間が理解できない研究プロセスを監督することが困難になり、結果としてAI開発の実質的な制御を失う恐れがあると、OpenAIは強く指摘しています。この警告は、AIの進化スピードが人間の管理能力を上回ることへの強い危機感を示しています。
AI安全性研究所のネットワークを活用した国際協調
では、具体的にどのような仕組みで国際標準を策定していくべきなのでしょうか。OpenAIは、すでに世界各国に設立されている「AI安全性研究所（AI Safety Institute）」のネットワークを活用する案を提示しています。
このネットワークの対象として、以下の国々が挙げられています。
- 日本
- 米国（主導国としての位置づけ）
- 英国
- カナダ
- フランス
- ドイツ
- 韓国
- シンガポール
- インド
- オーストラリア
- ケニア
これらの国々に設立済みのAI安全性研究所が連携し、技術的な知見を共有しながら標準づくりを進めることが提案されています。
一方で、この国際標準は強制力を持つものではありません。OpenAIは、策定された標準について、ライセンス制度や公開前の義務的審査、あるいは承認要件とするものではないとしています。この標準を自国の法制度に取り込むかどうかは、最終的に各国政府の判断に委ねられるべきだという方針を示しており、各国の主権や規制の柔軟性に配慮した形となっています。
国連安全保障理事会での議論へ
この提言は、単なる民間企業の一意見に留まらず、国際政治の舞台でも議論される見通しです。OpenAIのサム・アルトマンCEOは、第81回国連総会のハイレベルウィーク中に開催される、国連安全保障理事会の「AIと国際安全保障に関する公開会合」で話す見込みであり、会合は23日に予定されています。この会合を通じて、国際社会におけるAIの安全保障や標準化に向けた議論がさらに本格化することが期待されます。
AIの次なるフェーズに向けて、技術的な安全性と国際的なガバナンスをどのように両立させるのか。米国主導の標準策定と各国の安全性研究所の連携が、今後のフロンティアAI開発のあり方を大きく左右することになりそうです。
コメント