5.1 Implement guardrails and safety controls
Dựng guardrail nhiều lớp, ưu tiên kiểm soát phòng ngừa.
- Nội dung tool (email, web, tài liệu) là dữ liệu không tin cậy: đánh dấu rõ là dữ liệu, không đặt chỉ dẫn của bạn trong tool result, sàng lọc trước khi hành động.
- Lớp đầu rẻ: model nhẹ như Claude Haiku 5.5 sàng lọc đầu vào (trả phán quyết có cấu trúc) trước khi tới cuộc hội thoại chính.
- Kết hợp quyền tối thiểu, giới hạn cứng trong code và red-team bằng nội dung có injection trước khi ra mắt.