Агенты для программирования отправляют целые репозитории. Боты поддержки отправляют сообщения клиентов. ZDR отвечает на следующий вопрос: что происходит с этим содержимым, когда ответ уже получен?
Как это работает
При ZDR провайдер держит содержимое промптов и ответов только в памяти, пока обрабатывает запрос. После этого оно не записывается:
- в логи запросов и отладочные логи;
- в хранилища для мониторинга злоупотреблений;
- в постоянные кэши или очереди;
- в датасеты для обучения или оценки.
Обычно всё же хранятся записи без содержимого: ID запросов, временные метки, коды статусов, модель, число токенов, стоимость и IP-адреса клиентов.
ZDR действует по умолчанию не везде. API OpenAI, например, по умолчанию хранит логи мониторинга злоупотреблений до 30 дней и предлагает ZDR одобренным клиентам. Там же сказано, что данные API не используются для обучения, если вы сами на это не согласились. Читайте условия каждого провайдера, а не полагайтесь на догадки.
Почему это важно
- Соответствие требованиям. В промптах часто бывают персональные данные, сведения о здоровье или коммерческая тайна. Содержимое, которое никогда не сохранялось, не может утечь из логов или резервных копий.
- Меньше участников. Каждая система, где лежит копия, — ещё одно место, которое нужно защищать. Роутер или реселлер добавляет участников в путь данных.
- Речь и изображения. Голосовые сообщения и сканы документов — одни из самых чувствительных входных данных. ZDR должна распространяться и на аудио, и на расшифровки.
ZDR защищает то, что происходит после того, как запрос дошёл до провайдера. Вам всё равно нужно защищать API-ключи, привязывать их к известным IP и вычищать то, что модели не нужно.
В BroadNet Inference
В документации BroadNet сказано, что ZDR “built into how we serve requests, not only stated in policy” (перевод: «встроена в то, как мы обрабатываем запросы, а не только заявлена в политике»). BroadNet Inference не хранит промпты, изображения, аудио, ответы и расшифровки ни для одного запроса. Она хранит записи о трафике и использовании без содержимого — время выполнения, число токенов, стоимость — столько, сколько требуют биллинг, налоги, безопасность и юридические обязательства. Автоматический аудит хранения выполняется каждый час.
Согласно заявлению BroadNet о конфиденциальности, модели, которые она размещает, работают на собственном или арендованном оборудовании BroadNet в США, с мощностями партнёров в качестве резерва; модели, которые обслуживают партнёры, работают на условиях нулевого хранения данных у партнёров по инференсу в США. Ключи можно привязать к вашим серверам через белый список IP.
Полный список того, что хранится и что не хранится, — на странице о нулевом хранении данных. Чтобы сравнить провайдеров, используйте чек-лист ZDR из 10 вопросов.