英国王室は9月17日（現地時間）、チャールズ国王がAI業界のリーダーや政府関係者、市民社会の有識者を集めたサミットを開催したと発表しました。スコットランドのダンフリーズハウスで行われたこのサミットには、NVIDIAやGoogle DeepMind、OpenAI、AnthropicといったAI開発を牽引する主要企業の代表らが集結。急速に進化するAI技術の安全性や、将来的な影響について踏み込んだ議論が行われました。
スコットランドに集結したAI界のリーダーたち
英国王室の発表によると、今回のサミットはスコットランドのダンフリーズハウスで開催され、約30人規模の経営幹部、政策担当者、研究者らが参加しました。
参加企業には、AI向け半導体で圧倒的なシェアを誇るNVIDIA、Google傘下のAI研究部門であるGoogle DeepMind、ChatGPTを開発するOpenAI、そして安全性に配慮したAI開発で知られるAnthropicが含まれています。Anthropicからはグローバル渉外責任者のティノ・クエヤル氏が出席するなど、業界のキーパーソンが一堂に会しました。
チャールズ国王が警告する「生命を奪うリスク」と制御の必要性
このサミットにおいて、チャールズ国王はAI技術がもたらす「実存的な危険」について強い懸念を示しました。国王は、AIが生命を奪う能力を持つに至るリスクを警告し、技術の進歩に対して十分な制御手段が必要であることを厳しく指摘しました。
国家元首が直接、AIの最前線に立つ開発者らに対してこのような実存的リスクを警告することは極めて異例であり、AIの急速な発展が社会や人類の安全保障に与える影響の大きさを物語っています。
AGIは「数年内」に実現、産業革命の10倍の影響力
サミットでは、AI技術の将来予測についても重要な発言が相次ぎました。
Google DeepMindの共同創業者であるデミス・ハサビス氏は、人間と同等以上の知能を持つとされる「人工汎用知能（AGI）」が、おそらくあと数年で実現する可能性があると言及しました。さらにハサビス氏は、AGIがもたらす社会的・経済的なインパクトについて「産業革命の10倍の影響を与える可能性がある」との見解を示しました。
その一方で、ハサビス氏は「何かがうまくいかない可能性は確実にゼロではない」とも語り、技術の急速な進展に伴う不確実性とリスクへの警戒を怠らない姿勢を示しました。
NVIDIAフアンCEOが語る「安全性最優先」のエンジニアリング
AI開発を支えるハードウェアの覇者であるNVIDIAのジェンスン・フアンCEOは、開発における安全性の重要性を強調しました。
フアン氏は、AI開発において安全性が「最優先」であると明言。さらに、開発された技術や製品が十分に安全であると確認できなければ、市場への投入を見送り、エンジニアリング（技術開発と調整）を継続すべきであるという極めて慎重な姿勢を示しました。
この発言は、競争が激化するAI市場において、スピードよりも安全性を優先する倫理的な枠組みが不可欠であることを示唆しています。
サミットが示す未来への影響と意義
今回のサミットは、単なる技術的な議論の場にとどまらず、AIが人類社会に与える影響の大きさを改めて浮き彫りにしました。
特に、以下の3つのポイントが今後のAI開発において極めて重要になります。
- 国家レベルでの監視と制御：チャールズ国王の警告は、民間企業主導のAI開発に対して、公的な枠組みや倫理的な制御が不可欠であることを示しています。
- 開発プロセスの見直し：NVIDIAのフアンCEOが示した「安全でなければ投入を見送る」という方針は、今後のAI製品のリリースサイクルや品質基準に大きな影響を与える可能性があります。
- AGI到来への備え：ハサビス氏が指摘した「産業革命の10倍の影響」を持つAGIが数年以内に実現するシナリオに対し、社会制度や法整備が追いつくかどうかが問われています。
AI技術がもたらす恩恵と、それに伴う実存的なリスク。そのバランスをどのように取るべきか、業界のリーダーと社会の有識者による模索は今後も続くことになります。
コメント