LLM thật ra chỉ làm 1 việc: đoán token tiếp theo #shorts

1 Views

  • Thanks! Share it with your friends!

    You disliked this video. Thanks for the feedback!

⚡ Dùng Thử VIP Đang kích hoạt SponsorBlock & VIP: Tự động bỏ qua quảng cáo (30 phút dùng thử hôm nay)
⚡ SponsorBlock: Đã tự động bỏ qua phân đoạn tài trợ / quảng cáo!
tungithy
Published
ChatGPT viết code, dịch tài liệu, trả lời phỏng vấn, nhưng bên trong LLM chỉ làm đúng một việc: đoán token tiếp theo. Mỗi vòng, model tính xác suất cho cả bộ từ vựng, chọn một token, nối vào cuối văn bản rồi đoán tiếp. Câu trả lời 500 token nghĩa là 500 vòng lặp. Vì vậy chữ hiện ra từng chút một, và output chậm hơn, đắt hơn input.

Hệ quả quan trọng nhất với dev: model không thể xóa chữ đã viết. Khi bắt LLM trả về JSON, hãy đặt trường reasoning trước trường answer để model suy luận xong rồi mới chốt đáp án.

Tập 5 trong series AI Engineer cho dev: từ lập trình viên lên AI Engineer. Tập sau: token là gì và vì sao tiếng Việt tốn token hơn tiếng Anh.

#LLM #AIEngineer #ChatGPT
Category
Học Lập Trình Trực Tuyến
Tags
teduco

Up Next

Kênh Đối Tác 🔇 Đã Tắt Tiếng (Không Làm Phiền)
Pháp Âm Diệu Âm - Trích Đoạn Phật Pháp Thanh Tịnh
Được tài trợ bởi: Kênh Diệu Âm
↗ Mở Xem Chi Tiết
💡 Video quảng cáo chạy tắt tiếng để lượt xem cho chủ kênh vẫn được tính đầy đủ trên hệ thống mà không làm gián đoạn bài giảng/bản nhạc bạn đang nghe.

Ưu đãi nổi bật

Đang tải…