5.1 LLM Fundamentals (5.2%)

Nền tảng LLM: token và context window, tính không tất định, các tùy chọn effort / thinking / fast mode, và zero/one/few-shot.

1. Context window chứa mọi thứ: system, toàn bộ messages (kể cả tool result, ảnh, tài liệu), tool definitions và output của lượt đó (kể cả thinking).
2. Model hiện tại trả 400 với temperature, top_p, top_k khác mặc định — kiểm soát độ nhất quán bằng chỉ dẫn, ví dụ và structured outputs.
3. Effort là đòn bẩy chính cho mức suy nghĩ. budget_tokens (extended thinking thủ công) trả 400 từ Claude 4.7; thinking: disabled trả 400 trên Opus 5.5, Sonnet 5.5, Fable 5.1 → giảm chi phí bằng effort thấp hơn.
4. Fast mode: tốc độ sinh output cao hơn tới 2,5×, giá cao hơn, chỉ trên model hỗ trợ; không giảm thời gian ra token đầu.
5. Định dạng không nhất quán → thêm 3–5 ví dụ đa dạng, bọc trong thẻ để tách khỏi chỉ dẫn.