OpenAI, 데이터 저장 없이 다중 세션 안전 모니터링하는 'Private Safety Processing' 공개

무엇이 바뀌었나

OpenAI가 선택된 고객을 대상으로 'Private Safety Processing'이라는 새로운 프라이버시 중심 안전 모니터링 서비스를 미리 공개했다. 이 시스템은 에이전트 기반 자동화 방식으로 작동하며, 고객 데이터를 저장하지 않으면서도 여러 세션에 걸친 입력과 출력을 분석해 악용 징후를 탐지한다.

시스템이 특정 활동에 대해 '좁게 정의된 신호'를 감지하면 OpenAI에 경고가 전달된다. OpenAI는 이 경고를 바탕으로 집행이 필요한지 판단하고, 필요하다고 판단되면 고객에게 직접 연락할 수 있다. 이 과정에서 고객은 재량에 따라 추가 데이터를 공유할지 결정한다.

이는 기존 Zero Data Retention(ZDR) 정책의 범위를 넓힌 것이다. ZDR이 세션 단위로 데이터를 저장하지 않는 데 그쳤다면, Private Safety Processing은 데이터를 저장하지 않으면서도 장기적(long-horizon) 관점에서 안전 모니터링을 가능하게 한다.

이번 발표는 경쟁사 Anthropic이 지난 7월 발표한 데이터 보존 정책과 비교된다. Anthropic의 정책은 '커버드 모델'—모든 Mythos급 모델과 Fable 등 유사한 능력을 가진 향후 모델을 포함—에 대해 사용자의 모든 세션과 대화 내용을 30일간 보관할 수 있도록 한다. Anthropic은 인간 검토가 '통제된 접근 경로'를 통해 '소수의 승인된 검토자'에 의해서만 이루어지며, 모든 검토 세션이 '변조 방지 로그'에 기록된다고 설명했지만, 일부 고객들의 불만을 샀다.

빅시프트 분석

기업의 보안·컴플라이언스 담당자와 개발팀은 이번 발표를 계기로 두 회사의 데이터 처리 방식 차이를 다시 점검할 필요가 있다. 특히 민감한 데이터를 다루는 금융, 의료, 법률 분야 기업이라면 데이터 보존 여부가 API 공급자 선택에 실질적인 기준이 될 수 있다.

OpenAI의 접근 방식은 데이터를 저장하지 않으면서도 안전 모니터링을 유지하려는 시도로, 개인정보 보호를 우선시하는 고객사의 우려를 낮출 수 있다. 다만 '좁게 정의된 신호' 탐지 후 OpenAI가 직접 고객에게 연락하는 구조이기 때문에, 기업 내부에서는 어떤 상황에서 이러한 연락이 발생할 수 있는지, 대응 프로세스를 누가 담당할지 미리 정리해둘 필요가 있다. 법무팀과 보안팀은 이 시스템이 자사의 데이터 처리 정책 및 계약 조건과 어떻게 맞물리는지 확인해야 한다.

반면 Anthropic의 30일 보관 정책을 사용하는 기업은 인간 검토가 이루어질 수 있다는 점을 고려해 민감한 데이터를 다루는 워크플로우에 대해 별도의 데이터 처리 계약이나 예외 조항을 검토할 필요가 있다. 이는 사내 개발자가 API를 어떤 용도로, 어떤 데이터로 호출할지 결정하는 데 직접적인 영향을 미친다.

두 회사의 정책 차이는 향후 AI API 공급자 선정 시 프라이버시 정책이 가격이나 성능 못지않게 중요한 협상 요소로 부상할 가능성을 보여준다. 특히 규제 산업에 속한 기업의 조달·구매 부서는 계약 시 데이터 보존 및 검토 절차에 대한 조항을 명시적으로 요구하는 것이 필요해질 수 있다.

아직 불확실한 것

Anthropic의 데이터 보존 정책이 정확히 언제(2026년 7월 중 며칠) 발표되었는지 구체적 날짜는 확인되지 않았다. 또한 OpenAI의 Private Safety Processing이 정확히 언제부터 제공되는지, 어떤 고객에게 우선 제공되는지도 아직 명확하지 않다.