7.2 Guardrails and Safe Deployment (2.3%)
Triển khai an toàn: guardrail nhiều lớp, secure-by-design và đặc quyền tối thiểu.
- Guardrail xếp lớp: sàng lọc vô hại (vd. model nhẹ), kiểm tra đầu vào, prompt engineering, giám sát người vi phạm lặp lại, least privilege, sàng lọc output tool — kết hợp với nhau.
- Least privilege: không cấp quyền Claude không cần; credential chỉ đọc, phạm vi hẹp, có log cho việc chỉ đọc — để injection thành công cũng gây hại tối thiểu.
- Claude Code: sandbox Bash giới hạn file và host mạng lệnh shell chạm được; kết hợp với permission rule như hai lớp bổ trợ.
- Chống lộ prompt: không cách nào tuyệt đối — giám sát trước, không đặt bí mật trong prompt, chỉ thêm kỹ thuật chống lộ khi thật cần và có test.
- Chính sách nội dung: ứng dụng phải tuân thủ Usage Policy của Anthropic; sàng lọc đầu vào bằng model nhẹ (vd. Haiku 5.5) với structured output để phân loại trước khi tới hội thoại chính.