Structured Output: Ép LLM trả JSON đúng schema

0 Views

  • Thanks! Share it with your friends!

    You disliked this video. Thanks for the feedback!

tungithy
Published
Bạn đã dặn model “chỉ trả JSON thôi” nhưng nó vẫn chèn thêm câu chào, thiếu field hoặc sai kiểu dữ liệu? Đó là vì LLM chỉ đoán token tiếp theo, nên bạn xin được chứ không ép được.

Trong video này mình giải thích 3 mức để lấy JSON từ LLM:

Mức 1: xin trong prompt, không đảm bảo gì cả.
Mức 2: JSON mode, ra JSON hợp lệ nhưng chưa chắc đúng schema của bạn.
Mức 3: Structured output, gửi JSON Schema kèm request và hệ thống chặn các token làm sai schema (constrained decoding).

Lưu ý quan trọng: đúng schema không có nghĩa là đúng sự thật. Hãy dùng enum thay cho string tự do, mô tả rõ từng field và vẫn validate nghiệp vụ trong code.

Đây là tập 15 trong series AI Engineer, dành cho dev backend muốn chuyển sang làm việc với LLM. Tập tiếp theo: Streaming, vì sao chữ của model hiện ra từng chút một.

Tags

structured output, LLM structured output, JSON schema, constrained decoding, JSON mode, AI Engineer, lập trình AI, OpenAI API, LLM API, prompt engineering, function calling, dev backend học AI, học AI cho developer, TEDU

#AIEngineer #StructuredOutput #LLM
Category
Học Lập Trình Trực Tuyến
Tags
teduco

Up Next

Ưu đãi nổi bật

Đang tải…