OpenAI、AIの行動指針「Model Spec」改定版を公開――人間による監督や記憶の扱いを明確化

結論

米OpenAIは10月29日（現地時間）、AIモデルの望ましい振る舞いを示す公開文書「Model Spec」の改定版を公開しました。今回の改定では、AIが自律的に作業する際における人間による監督への協力や、会話履歴などの「記憶」の扱い方に関する新しい規定が明確化されています。

何が発表・変更されたか

Model Specは、OpenAIがAIモデルにどのような基準で振る舞うべきかを定めた公開文書です。初版は2024年5月に公開され、今回の改定は8月18日以来のものとなります。今回の新版では、文書内におけるモデルの呼称が従来の「the assistant」から「GPT」へと変更されました。

また、これまで盛り込まれていた「人類を愛する」「合理的に楽観的である」といったChatGPTの人格設定や応答の文体ガイドラインの大半が削除されるという大きな刷新が行われています。

確認済みの具体情報：5つの柱と新しい監督規定

改定されたModel Specは「人間の意図への忠実さ」「害の最小化」「誠実さと透明性」「人間の主体性」「配慮」の5つの価値観を柱に据えている。

人間の意図への忠実さ
害の最小化
誠実さと透明性
人間の主体性
配慮

さらに、会話履歴やメモリなどのコンテキストの扱い方や、人間による監督への協力に関する規定が新たに加えられた。エージェントとして自律作業する場面では、正当な人間による監督や修正、停止の指示に協力し、情報を隠したり回避したりしてはならないと明記された。また、エージェントとして自律的に作業する場面を想定した規定として、正当な人間による監督や修正、停止の指示に協力し、情報を隠したり監督を回避したりしてはならないと明記された。さらに、許可されていない操作を別のエージェントに委任したり、後で実行されるよう予約したりして、間接的に実行することも禁じられた。

なぜ重要か

AIモデルが単なるチャットボットから、自律的にタスクをこなすエージェントへと進化するにつれて、その制御や透明性の確保が重要な課題となっています。今回の改定は、AIのパーソナリティに関する細かな設定を削ぎ落とす一方で、人間による適切な介入や監督を確実に受け入れるためのルールを前面に押し出したものと言えます。

利用者・開発者への影響

公開文書であるModel Specは、Creative Commons CC0 1.0のdeedによりパブリックドメインにささげられており、誰でも参照できるオープンな内容となっています。開発者や関連するステークホルダーにとっては、OpenAIがAIモデルの自律動作や安全管理においてどのような規範を重視しているのかを読み解くための重要な指針となります。