AI開発の「スピード」そのものを抑制すべきという提言
人工知能（AI）の進化スピードが加速する中、業界をリードするスタートアップのトップから、開発のペースを意図的に落とすべきだという異例の提言がなされました。米Anthropic（アンソロピック）の共同創業者兼CEOであるダリオ・アモデイ氏は9月12日（現地時間）、自身の個人サイトでエッセイ「We Must Pace the Frontier」を公開しました。アモデイ氏はこの中で、AI業界はモデルの能力を向上させるペースそのものを落とす必要があると訴えています。
この提言は、単なる一企業の意見にとどまらず、競合であるOpenAIのサム・アルトマンCEOや、米SpaceXのイーロン・マスクCEOといった業界の最有力者たちからも即座に賛同を集めており、AI安全性の議論に新たな局面をもたらしています。
リスク防止策が追いつくための「ペース調整」
アモデイ氏が開発ペースの調整を訴える背景には、AIの急速な能力向上に対して、安全対策が追いつかなくなることへの強い危機感があります。同氏は、単にリスク防止への投資を増やすだけでは不十分であり、防止策が追いつけるように能力向上の速度自体を調整する必要があると判断したとしています。
この課題に対処するため、アモデイ氏は3段階の計画を提示しています。その第1段階として位置づけられているのが、「Embedded Evaluator」（常駐評価者）と呼ばれる仕組みです。
この仕組みでは、米METR（Model Evaluation and Threat Research）のような独立した第三者チームに対し、自社の従業員と同等の継続的なアクセス権限を与えます。これにより、外部の専門家が安全対策の順守状況を直接検証し、必要に応じてインシデントの報告を行える体制を構築することを目指しています。
競合他社やテックリーダーたちも賛同を表明
アモデイ氏のこの提言は、AI業界の他のリーダーたちからも大きな支持を得ています。
OpenAIのサム・アルトマンCEOは、自身のX（旧Twitter）アカウントでこのペース調整の必要性に同意を示しました。さらにアルトマン氏は、独立した評価者に対して従業員並みのアクセスを与える取り組みを、OpenAIでも同様に実施すると言明しました。業界トップを走る2社が、外部評価者へのアクセス権限付与という具体的な安全対策において足並みを揃えた形です。
また、かねてよりAIの安全性に警鐘を鳴らしてきた米SpaceXのイーロン・マスクCEOも、X上で「ダリオは正しい」と投稿し、アモデイ氏の主張を全面的に支持する姿勢を見せています。
今後の展望と未確定な要素
今回の提言とそれに対する賛同は、AI開発企業が自主的に開発スピードをコントロールし、外部の監視を受け入れるという新しいガバナンスのあり方を示唆しています。しかし、現時点では以下の点について具体的な情報は明らかになっていません。
- アモデイ氏が提示した3段階の計画のうち、第2段階および第3段階の具体的な内容や実施時期
- 「常駐評価者」による検証が、実際のモデル開発スケジュールや公開プロセスにどのような影響を与えるか
- この自主的なペース調整が、業界全体の競争環境や他国の開発動向に対してどのように機能するか
AIの安全性確保に向け、開発企業自らがブレーキを踏む必要性を訴え、競合がそれに同調するという今回の動きは、今後のAI規制や開発プロセスの標準化において重要なマイルストーンとなる可能性があります。
コメント