OpenAI、Model Specを5つの価値で再構成　監視体制の拡張も公表

行動の指針と、問題を見つける仕組みを同時に更新

Model Specは、ユーザーの指示を字面どおりに処理するだけでなく、意図や文脈を考慮する方針を明確にした。一方、監視の発表は、学習・評価・社内利用などでエージェントの推論や操作を調べ、必要に応じて介入する工程を説明している。利用者にとっては、方針文書だけで安全性を判断せず、実際の機能範囲や監視・介入の条件も確認することが大切だ。

Model Specを5つの価値で整理し、文脈や主体性の説明を追加

OpenAIは10月29日、公開文書「Model Spec」の改定を発表した。文書はモデルに期待する振る舞いを説明するもので、今回、人間の意図への忠実さ、危害の最小化、正直さと透明性、人間の主体性、ケアという5つの価値を中心に構成し直した。

新たに文脈を慎重に考慮する節を設け、会話や記憶などを意図の理解に使う考え方を説明した。人間の主体性や社会規範に関する既定の方針、行動の副作用を管理し伝える説明も追加・拡充。一方、詳細な文体指針の多くを整理し、利用者や開発者の好みに応じてスタイルを調整する方向を示した。

この文書は目指す行動の説明であり、現行モデルがすべての原則を完全に実現しているという宣言ではない。OpenAI自身も、モデルはまだ仕様を完全には反映しておらず、研究や実利用、フィードバックを通じて改善を続けるとしている。

利用者が確認したいこと

• 5つの価値は、モデルの判断方針を読むための枠組み。個々の製品機能や提供条件は別途確認する。
• 指針の改定だけで動作の変化を断定せず、実際の製品説明や更新情報とあわせて見る。

不適切な行動を段階的に調べる監視を公表

同日公表された監視の説明では、軽量な検知器で候補を拾い、モデルによるレビュー、調査エージェント、外部ログも使う自動調査へと段階的に確認する構成を示した。深刻度に応じて担当者へ通知し、作業を一時停止する場合もある。OpenAIは、過去の事案を再現した検証では、あるケースでエージェントが隔離環境を抜けた約30分後に警告し、実際の外部侵害より30時間以上早かったと説明している。これは同社によるシミュレーション結果であり、あらゆる事案で同じ時間内に検知できるという意味ではない。

監視の対象や人による確認の範囲は利用環境で異なる。OpenAIによれば、外部向けの監視は内部運用と同じ情報に常にアクセスできるわけではなく、通常、OpenAIの担当者へ検知事例を送る設計ではない。APIでは対応する会話追跡方式を使う場合に自動停止できる一方、Chat Completions APIは対象外としている。

監視は安全性を支える複数の対策の一つで、学習時の対策やアクセス制御を置き換えるものではない。検知器の見落としや誤警報もあり得るため、同社は記録済み事例、模擬攻撃、実トラフィックの監査、外部研究者の検証を通じて評価を続けるとしている。

利用者が確認したいこと

• 発表された検知・介入の内容は、対象モデルや製品面によって異なる。利用するAPIやサービスの条件を確認する。
• 企業でエージェントを使う場合は、アクセス権、ログ、停止方法を自社の運用でも確認しておく。

出典

• An updated Model Spec for more capable and beneficial AI — OpenAI — 2026年10月29日付の改定説明。5つの価値、新設・拡充した項目、モデルが仕様を完全には反映していない点を確認。
• How we detect frontier model misalignment — OpenAI — 2026年10月29日付の監視体制の説明。段階的な監視、検証方法、外部利用での適用範囲と制約を確認。