5.3 Model Selection and Tradeoffs (2.7%)
Chọn model theo chất lượng / độ trễ / chi phí, và đề phòng thay đổi hành vi giữa các bản phát hành.
- Haiku 5.5: nhanh, rẻ nhất cho khối lượng lớn (phân loại, trích xuất, định tuyến); Sonnet 5.5: nhanh, cân bằng; Opus 5.5: điểm khởi đầu cho đa số workload; Fable 5.1: mạnh nhất, chậm hơn, cho agent chạy hàng giờ và nghiên cứu sâu. Hai cách bắt đầu: ưu tiên hiệu quả (model nhanh, nâng cấp khi eval cho thấy thiếu) hoặc ưu tiên năng lực.
- Quá chậm/đắt → thử giảm effort trong cùng model trước khi đổi model; đo chất lượng bằng eval khi chỉnh.
- Prefill không được hỗ trợ từ Claude 4.6 trở đi (trả 400) → dùng structured outputs hoặc chỉ dẫn rõ.
- Mặc định có thể đổi giữa các bản (vd. Opus 5.5 và Haiku 5.5 mặc định effort medium, các model khác và Opus trước là high) → đặt rõ tham số quan trọng và eval lại sau nâng cấp.
- Các bước khác nhau cần năng lực khác nhau → định tuyến model theo từng bước, xác nhận bằng eval.