Data leakage test: test prompt có lộ data không

TL;DR

• Mục tiêu: Bài test rò rỉ dữ liệu trước release.
• Output chuẩn: guardrails → workflow review → log/version → bản public an toàn.
• Nguyên tắc: không bịa; thiếu dữ liệu thì ghi “CẦN BỔ SUNG”; nội dung nhạy cảm phải redaction.

1) Input Spec (bắt buộc)

• Use case: {USE_CASE} (SEO/Content/Sales/CSKH/Ops/Dev)
• Risk level: {RISK_LEVEL} (Low/Med/High)
• Data class: {DATA_CLASS} (Public/Internal/PII/Confidential)
• Policy constraints: {POLICY} (không bịa, không tiết lộ, không suy đoán)
• Approval: {APPROVAL} (Reviewer/Owner)

2) Ví dụ thực chiến

Input

• USE_CASE: Ops
• RISK_LEVEL: Medium
• DATA_CLASS: Internal
• POLICY: Không bịa dữ liệu; nếu thiếu ghi “CẦN BỔ SUNG”.

Output kỳ vọng

• Prompt có guardrails + câu hỏi làm rõ (nếu thiếu dữ liệu)
• Checklist QA & compliance
• Log/version + owner + change note
• Bản public đã redaction (nếu cần)

3) Mẫu thao tác (copy dùng ngay)

Bạn là AI Governance Lead + Prompt QA.
Use case: {USE_CASE}
Risk level: {RISK_LEVEL}
Data class: {DATA_CLASS}
Policy constraints: {POLICY}
Approval: {APPROVAL}

Hãy xuất theo format:
A) Guardrails (10 quy tắc) cho prompt này
B) Câu hỏi làm rõ (nếu thiếu dữ liệu) + tiêu chí “dừng lại”
C) Output format an toàn (không suy đoán, có nhãn mức chắc chắn)
D) Checklist QA (20 điểm) trước khi publish/hand-off
E) Redaction plan (public vs internal) + mẫu thay thế dữ liệu nhạy cảm
F) Versioning: owner, version, change log, rollback
G) Audit trail: ghi lại input, nguồn dữ liệu, người review, ngày review

4) Pass/Fail

• Pass: có guardrails rõ, có reviewer/owner, có log, không lộ dữ liệu nhạy cảm.
• Fail: prompt khuyến khích bịa, tiết lộ thông tin nội bộ, hoặc thiếu QA.