5.2 Identify risks, limitations, and failure modes of LLM systems

Nhận diện kiểu lỗi và giới hạn của hệ LLM để thiết kế phòng trước.

1. Agent có trạng thái thì lỗi cộng dồn — một lỗi nhỏ làm hỏng cả lượt chạy. Kết hợp retry và checkpoint để tiếp tục từ chỗ lỗi.
2. Từ chối của bộ phân loại an toàn về như phản hồi bình thường với stop_reason: "refusal" — phát hiện, ghi log, đọc stop_details; phương án dự phòng thường là gửi lại cho model khác.
3. Chạm giới hạn context → model_context_window_exceeded: đầu ra chưa đầy đủ, phải quản lý context.
4. Model bị gỡ sau thông báo trước ít nhất 60 ngày, sau đó request lỗi → cần người phụ trách và kế hoạch chuyển đổi có eval.