1.2 Design end-to-end architectures (input → processing → output → feedback loops)

Thiết kế đủ bốn khâu đầu vào → xử lý → đầu ra → vòng phản hồi, chọn đúng chế độ gọi API cho từng luồng.

1. Vòng phản hồi là bắt buộc: thu kết quả thật (sửa của người dùng, ca lỗi) → đưa vào bộ eval → chặn thay đổi gây hồi quy.
2. Luồng tương tác → gọi đồng bộ + streaming; khối lượng lớn, không gấp → Message Batches (rẻ 50%, đa số xong trong 1 giờ, tối đa 24 giờ).
3. Kiểm tra đầu ra (schema, quy tắc nghiệp vụ) trước khi gây tác động phía sau như ghi DB hay gửi email. Structured outputs bảo đảm cú pháp, không bảo đảm ngữ nghĩa.