会話を保存せず、連続する危険をどう見つけるか——OpenAIが試す「本文を人に見せない監視」

01 / QUICK GUIDE

まず、30秒でつかむ

02 / KEY WORDS

ここだけ押さえれば、残りの本文はスムーズに読めます。

Zero Data Retention（ZDR）: 対象となる企業向けのAI接続で、処理後の入力と回答をOpenAIが保持しない仕組みです。利用資格と法令上の例外があるため、名称だけでは判断できません。
Private Safety Processing: 元の会話をOpenAIの担当者へ見せず、関連する複数回のやり取りから危険の兆候を自動で探す開発中の仕組みです。現時点では試験段階です。
顧客管理の暗号鍵: 暗号化したデータを読める状態へ戻す秘密情報を、利用企業が持つ方式です。保管場所を運営する会社でも、中身を開けない設計にできます。

03 / THE FACTS

公式記事は8月19日付です。時刻とタイムゾーンは非公表のため、UTCと日本時間の正確な公開時刻は分かりません。

既存のZDRでは、対象顧客が送った入力とAIの回答を処理後にOpenAIが保持せず、同社担当者も閲覧できないと説明しています。企業データも、顧客が選ばない限り学習に使いません。

新方式は、一回ずつ行っていた安全判定を、関連する複数回のやり取りへ広げます。長いAI作業や、複数アカウントで保護策を探る動きなどを想定しています。

ZDRでは、内容を顧客が管理する設備へ置きます。OpenAIは別案として、自社設備へ置きながら、顧客だけが持つ鍵で暗号化する方式も開発しています。

危険を検知すると、OpenAIへ届くのは活動の種類を示す限定的な通知です。担当者は元の会話を読まず、顧客は自社の記録を使って判断を確認できます。

顧客が異議を申し立てたり、確認済みの不正利用を調べたりするときは、必要な情報を自ら選んでOpenAIへ共有できます。自動的に全文が渡る仕組みではありません。

Private Safety Processingは一部顧客との試験中です。9月に提供を始め、技術白書も公開する予定です。児童性的虐待素材の疑いがある画像には、保持の例外があります。

THE CONCLUSION

OpenAIが目指すのは、会話を誰にも見せない仕組みではありません。自動システムは内容を調べますが、人へ渡す情報を警報の種類だけに絞ろうとしています。

封をした手紙の中身は人に見せず、危険を示すランプだけを点灯させるような設計です。ただし、そのランプがどれほど正確かはまだ公表されていません。

04 / THE CONTEXT

AIが一問一答から長い作業へ進むと、一つだけ見れば無害な依頼でも、積み重ねた結果が権限外の操作や有害な計画になることがあります。

一方、金融、医療、研究、社内文書を扱う組織は、提供会社に本文を残したくありません。保存を増やせば、漏えい時の影響と社内規則への負担も増えます。

そこで、機械が危険を探すことと、人が本文を読むことを切り離す必要が出てきました。今回の発表は、その両立を狙う仕組みの予告です。

ただし効果は未確認です。危険を何件拾い、正当な研究を何件誤って止めたのかが分からず、安全とプライバシーを両立できたとはまだ言えません。

05 / WHAT IT MEANS FOR YOU

企業が確認すべきなのは、ZDR対応という一語ではありません。対象モデル、保存場所、暗号鍵を持つ人、OpenAIへ届く通知を分けて確認する必要があります。

例えば顧客相談AIなら、会話を担当者が読めないことに加え、危険判定の記録、異議申立ての窓口、誤停止からの復旧方法まで運用へ入れます。

保持しないことと、処理しないことは別です。自動判定には内容が使われます。顧客側に残るデータも、保存期間、閲覧権限、削除方法を自社で決めなければなりません。

9月の技術白書が出たら、暗号方式、対象範囲、通知の種類、法的例外、評価方法を確認できます。発表文だけで機密業務を移す段階ではありません。

07 / NEXT ACTION

BOTTOM LINE