7.1 AI Application Security (3.2%)

Bảo mật ứng dụng AI: prompt injection, đầu vào không tin cậy, rò rỉ dữ liệu, và phân quyền đúng chỗ.

1. Indirect prompt injection: chỉ dẫn ẩn trong web, email, tài liệu hay output tool. Coi mọi nội dung đó là không tin cậy, tách khỏi chỉ dẫn tin cậy, và không để nó kích hoạt hành động nhạy cảm.
2. Phân quyền thực thi trong code tool, dùng danh tính đã xác thực từ session — không dựa vào prompt hay vào tham số model gửi lên.
3. Hành động nhạy cảm (gửi email, chuyển tiền) → least privilege + xác nhận của người trước khi thực thi.
4. Chống rò rỉ dữ liệu và xử lý PII: chỉ gửi trường tác vụ cần; kiểm tra chính sách lưu giữ (ZDR theo từng tính năng); với PHI, không đặt dữ liệu nhạy cảm trong JSON schema (schema của structured outputs được cache riêng, không có cùng mức bảo vệ).