5.3 Model Selection and Tradeoffs (2.7%)

Chọn model theo chất lượng / độ trễ / chi phí, và đề phòng thay đổi hành vi giữa các bản phát hành.

  1. Haiku 5.5: nhanh, rẻ nhất cho khối lượng lớn (phân loại, trích xuất, định tuyến); Sonnet 5.5: nhanh, cân bằng; Opus 5.5: điểm khởi đầu cho đa số workload; Fable 5.1: mạnh nhất, chậm hơn, cho agent chạy hàng giờ và nghiên cứu sâu. Hai cách bắt đầu: ưu tiên hiệu quả (model nhanh, nâng cấp khi eval cho thấy thiếu) hoặc ưu tiên năng lực.
  2. Quá chậm/đắt → thử giảm effort trong cùng model trước khi đổi model; đo chất lượng bằng eval khi chỉnh.
  3. Prefill không được hỗ trợ từ Claude 4.6 trở đi (trả 400) → dùng structured outputs hoặc chỉ dẫn rõ.
  4. Mặc định có thể đổi giữa các bản (vd. Opus 5.5 và Haiku 5.5 mặc định effort medium, các model khác và Opus trước là high) → đặt rõ tham số quan trọng và eval lại sau nâng cấp.
  5. Các bước khác nhau cần năng lực khác nhau → định tuyến model theo từng bước, xác nhận bằng eval.