BroadRouter
시작하기

데이터 비보관(Zero data retention, ZDR)

업데이트

데이터 비보관(ZDR)은 AI 제공업체가 프롬프트와 출력을 요청 처리에만 사용하고, 처리 후에는 그 내용을 로그, 캐시, 학습 데이터 어디에도 저장하지 않는 데이터 처리 정책입니다. 토큰 수나 처리 시간처럼 내용이 없는 기록은 보통 계속 보관됩니다.

다른 이름: 데이터 비보관, 제로 데이터 보관, 데이터 미보관, 로그 없는 LLM API, ZDR, zero data retention, no data retention, no-log LLM API, private LLM API

코딩 에이전트는 저장소 전체를 보냅니다. 고객 지원 봇은 고객 메시지를 보냅니다. ZDR은 그다음에 생기는 질문, 즉 답변이 돌아온 뒤 그 내용은 어떻게 되는가에 답합니다.

작동 방식

ZDR에서는 제공업체가 요청을 처리하는 동안에만 프롬프트와 출력 내용을 메모리에 둡니다. 처리 후에는 다음 어디에도 기록하지 않습니다.

  • 요청 로그나 디버그 로그
  • 남용 모니터링 저장소
  • 영구 캐시나 큐
  • 학습 또는 평가 데이터셋

내용 없이 일반적으로 계속 보관되는 기록에는 요청 ID, 타임스탬프, 상태 코드, 모델, 토큰 수, 비용, 클라이언트 IP 주소가 있습니다.

ZDR이 어디서나 기본값인 것은 아닙니다. 예를 들어 OpenAI API는 기본적으로 남용 모니터링 로그를 최대 30일간 보관하며, 승인된 고객에게 ZDR을 제공합니다. OpenAI는 또한 사용자가 옵트인하지 않는 한 API 데이터를 학습에 쓰지 않는다고 밝힙니다. 짐작하지 말고 제공업체마다 약관을 직접 읽어 보세요.

왜 중요한가

  • 규정 준수. 프롬프트에는 개인정보, 건강 정보, 영업 비밀이 담기는 경우가 많습니다. 저장되지 않은 내용은 로그나 백업에서 유출될 수 없습니다.
  • 관여하는 당사자 축소. 사본을 보관하는 시스템이 하나 늘 때마다 보호해야 할 곳도 하나 늘어납니다. 라우터나 재판매업체는 데이터 경로에 당사자를 추가합니다.
  • 음성과 이미지. 음성 메시지와 스캔 문서는 가장 민감한 입력에 속합니다. ZDR은 오디오와 전사 결과에도 적용되어야 합니다.

ZDR은 요청이 도착한 뒤에 일어나는 일을 보호합니다. API 키를 보호하고, 알려진 IP로 키를 제한하고, 모델에 필요 없는 정보를 가리는 일은 여전히 직접 해야 합니다.

BroadNet Inference에서는

BroadNet 문서는 ZDR이 “built into how we serve requests, not only stated in policy.”(번역: 정책에 명시된 것에 그치지 않고 요청을 처리하는 방식 자체에 내장되어 있다)고 설명합니다. BroadNet Inference는 어떤 요청에서도 프롬프트, 이미지, 오디오, 답변, 전사 결과를 보관하지 않습니다. 처리 시간, 토큰 수, 비용처럼 내용이 없는 트래픽 및 사용량 기록은 과금, 세무, 보안, 법적 의무에 필요한 기간 동안 보관합니다. 자동 보관 감사는 매시간 실행됩니다.

BroadNet 개인정보 처리 방침에 따르면, BroadNet이 호스팅하는 모델은 미국에 있는 BroadNet 소유 또는 임차 하드웨어에서 실행되며, 파트너 용량을 백업으로 씁니다. 파트너가 제공하는 모델은 미국 추론 파트너와 맺은 데이터 비보관 조건에 따라 실행됩니다. 키는 IP 허용 목록으로 사용자의 서버에만 묶어 둘 수 있습니다.

무엇이 저장되고 무엇이 저장되지 않는지는 데이터 비보관 페이지에 모두 정리되어 있습니다. 제공업체를 비교하려면 ZDR 확인용 10문항 체크리스트를 활용하세요.

자주 묻는 질문

데이터 비보관이면 로그가 전혀 남지 않나요?

아닙니다. 제공업체는 과금과 보안을 위해 처리 시간, 토큰 수, 비용, 상태 코드, IP 주소 같은 운영 기록을 보관합니다. ZDR에서는 이런 기록에 프롬프트나 출력 내용이 들어 있지 않습니다.

ZDR은 내 데이터를 학습에 쓰지 않는다는 것과 같은 뜻인가요?

아닙니다. 학습에 쓰지 않는다는 것은 더 좁은 약속입니다. 제공업체는 데이터를 학습에 쓰지 않으면서도 프롬프트를 몇 주 동안 로그에 보관할 수 있습니다. ZDR은 내용을 아예 보관하지 않는다는 뜻입니다.

라우터를 거쳐도 ZDR이 적용되나요?

경로상의 모든 당사자가 ZDR을 따를 때만 적용됩니다. 호스팅형 라우터를 쓴다면 라우터 자체의 보관 정책과, 라우터가 요청을 보내는 제공업체의 보관 정책을 모두 확인하세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기