Mục tiêuSau ngày này, học viên hiểu được cách LLM sinh văn bản và vì sao nó vừa hiểu được ngữ cảnh vừa có thể sai; nắm được cách model được huấn luyện và các giới hạn cố hữu của nó; biết chọn model phù hợp với công việc và ước tính chi phí; và thực hiện được lần gọi API đầu tiên trong lab.
●●● sâu · ●●○ vừa · ●○○ nhẹ · Nhà · Lớp · Nhà → Lớp · bấm dòng để xem chi tiếtmở tất cả
Mở ngày
0Mở ngày●●○Lớp3′
Ý chínhGiảng viên đặt câu hỏi xuyên suốt ngày học, giới thiệu bốn đầu ra học viên sẽ đạt được — hiểu được, nắm được, gọi được, xây được — và nhấn mạnh rằng ngày học không đòi hỏi nền tảng toán, chỉ cần sự tò mò và một chiếc máy tính.
Kỹ năngHọc viên biết mình sẽ đạt được gì sau ngày học và vì sao điều đó có giá trị.
Hình thứcVideo giảng viên, 3 phút, giọng dẫn dắt.
Module 1 · AI là gì, và vì sao mất 70 năm
Module này cung cấp một bản đồ thuật ngữ để học viên phân biệt được các khái niệm thường bị dùng lẫn, và giải thích vì sao trí tuệ nhân tạo cần đến bảy thập kỷ mới đạt được năng lực như hiện nay. Toàn bộ module có thể tự học ở nhà.
1.1Phân biệt AI, machine learning, GenAI và LLM●●●Nhà5′
Ý chínhBản đồ các khái niệm lồng nhau: AI là phạm vi rộng nhất; machine learning nằm trong AI; deep learning nằm trong machine learning; generative AI nằm trong deep learning; và LLM là một nhánh của generative AI. Kèm ba nhóm ứng dụng — discriminative, generative, agentic — và vị trí của chương trình: tập trung vào agentic AI.
Kỹ năngHọc viên xếp được một sản phẩm bất kỳ vào đúng phạm vi, và phân biệt được generative AI với LLM — hai khái niệm thường bị đồng nhất.
Hình thứcVideo 5 phút. Các phạm vi hiện dần từ ngoài vào trong, mỗi phạm vi kèm một ví dụ sản phẩm quen thuộc. Phương án thay thế: một trang đọc kèm hình minh hoạ.
1.2Bài tập phân loại sáu sản phẩm quen thuộc●●○Nhà3′
Ý chínhHọc viên áp bản đồ vừa học lên sáu sản phẩm thường dùng — ChatGPT, Google Dịch, Siri, Midjourney, bộ lọc thư rác, Cursor — để tự phát hiện nhầm lẫn phổ biến: coi mọi sản phẩm gắn nhãn AI đều là LLM.
Kỹ năngHọc viên tự phân loại được một sản phẩm mới, và nhận ra generative AI rộng hơn LLM.
Hình thứcTương tác kéo-thả: học viên kéo từng sản phẩm vào phạm vi phù hợp; nếu sai, hệ thống hiển thị lý do và gợi ý. 3 phút. Phương án thay thế: quiz 6 câu.
1.3Lịch sử AI 1950–1993: vì sao thất bại hai lần●○○Nhà6′
Ý chínhBốn thập kỷ đầu của AI qua ba cách tiếp cận — dạy máy bằng luật, mạng thần kinh sơ khai, hệ chuyên gia — và hai giai đoạn "mùa đông" do bùng nổ tổ hợp và do kỳ vọng vượt quá năng lực. Bài học: AI không thất bại vì ý tưởng sai, mà vì thiếu dữ liệu và năng lực tính toán.
Kỹ năngHọc viên giải thích được vì sao AI từng thất bại hai lần, và hiểu bùng nổ tổ hợp qua ví dụ cụ thể.
Hình thứcVideo 6 phút, dạng kể chuyện với ảnh tư liệu và dòng thời gian. Phương án thay thế: một trang đọc có ảnh.
1.4Lịch sử AI 2006–2022: vì sao bùng nổ●●○Nhà6′
Ý chínhBa yếu tố hội tụ trong giai đoạn 2012–2022: dữ liệu quy mô lớn (ImageNet), phần cứng chuyên dụng (GPU), và kiến trúc mới. Kiến trúc trước đó — RNN — xử lý tuần tự nên khó giữ ngữ cảnh dài và không song song hoá được; Transformer ra đời năm 2017 để giải quyết đúng hạn chế này, và ChatGPT năm 2022 là kết quả trực tiếp.
Kỹ năngHọc viên nêu được ba yếu tố hội tụ, và giải thích được Transformer giải quyết hạn chế gì của kiến trúc trước.
Hình thứcVideo 6 phút. Ba yếu tố hiện dần rồi hội tụ; đoạn so sánh RNN và Transformer có hình minh hoạ xử lý tuần tự và xử lý toàn cục. Kèm bảng tóm tắt dòng thời gian 1950–2022 một trang, mỗi mốc một câu, để học viên lưu lại.
1.5Quiz Module 1●●○Nhà4′
Ý chính3 câu kiểm tra: kiến trúc năm 2017, nguyên nhân mùa đông AI, ba yếu tố hội tụ.
Kỹ năngHọc viên tự kiểm tra ba ý chính của module.
Hình thứcQuiz 3 câu, chấm ngay, có giải thích khi sai.
Module 2 · Cách LLM sinh văn bản và hiểu ngữ cảnh
Module này trình bày nguyên lý nền tảng của LLM — dự đoán từng mảnh chữ — và cơ chế attention giúp model hiểu ngữ cảnh. Attention là khái niệm học viên thường gặp khó nhất trong ngày, nên phần đào sâu được bố trí trên lớp với người hướng dẫn.
2.1Cách LLM sinh ra văn bản: đoán từng mảnh chữ●●●Nhà7′
Ý chínhNguyên lý nền tảng: model dự đoán mảnh chữ tiếp theo, mọi năng lực khác là hệ quả. LLM là model nền; chatbot là lớp ứng dụng bên ngoài. Đầu ra của model là phân bố xác suất trên toàn bộ từ vựng; model chọn một mảnh, nối vào, rồi xử lý lại từ đầu. Token là đơn vị xử lý và cũng là đơn vị tính chi phí. Context là giới hạn thông tin model xử lý trong một lần — 128K token tương đương khoảng 300 trang.
Kỹ năngHọc viên mô tả được vòng lặp sinh văn bản, giải thích được vì sao văn bản tiếng Việt tốn token hơn tiếng Anh, và quy đổi được context sang số trang.
Hình thứcVideo 7 phút, gồm 2 phút thao tác trên công cụ đếm token với cùng một câu bằng tiếng Việt và tiếng Anh để so sánh trực tiếp.
2.2Mô phỏng: tự đóng vai model đoán chữ●●○Nhà3′
Ý chínhHọc viên trải nghiệm quá trình sinh văn bản từ góc nhìn của model: nhập 3 từ, xem phân bố xác suất của 5 từ tiếp theo, chọn một, lặp lại 5 lượt. Kết thúc bằng câu hỏi: người viết có ý định, model có không?
Kỹ năngHọc viên cảm nhận trực tiếp rằng model chọn theo xác suất chứ không "biết" câu trả lời.
Hình thứcTương tác mô phỏng 3 phút trên dữ liệu cấu hình sẵn. Phương án thay thế: video minh hoạ 90 giây.
2.3Attention: cách model hiểu ngữ cảnh●●●Nhà → Lớp9′
Ý chínhCơ chế attention qua ví dụ: trong câu "Lan bỏ quyển sách vào túi vì nó quá dày", model xác định "nó" là sách vì mỗi token đánh giá mức liên quan với toàn bộ token trước đó. Multi-head attention là nhiều "góc nhìn" chuyên biệt xử lý song song — đại từ, quan hệ không gian, cú pháp. Cặp tương phản: kiến trúc chỉ nhìn cửa sổ 3 từ không xác định được "nó"; attention nhìn toàn câu thì xác định được.
Kỹ năngHọc viên giải thích được vì sao model xác định đúng "nó", và nêu được vì sao kiến trúc chỉ nhìn cửa sổ hẹp hiểu ngữ cảnh kém.
Hình thứcỞ nhà: video 7 phút với animation xây dần, từng token đánh giá liên quan với các token trước. Trên lớp: tương tác 2 phút, học viên điều chỉnh độ rộng cửa sổ và quan sát model xác định "nó" đúng hay sai. Phương án thay thế: slide kèm thuyết minh và highlight; đoạn minh hoạ cửa sổ ghép vào cuối video.
2.4Quiz Module 2●●○Nhà3′
Ý chính2 câu kiểm tra: vòng lặp sinh văn bản, cơ chế attention qua ví dụ.
Kỹ năngHọc viên tự kiểm tra hai ý chính của module.
Hình thứcQuiz 2 câu, chấm ngay.
Module 3 · Huấn luyện và giới hạn của model
Module này giải thích cách model được huấn luyện thành trợ lý, câu hỏi về bản chất "hiểu" của model, các giới hạn cố hữu, và hai kỹ năng thực hành quan trọng nhất: điều chỉnh tham số sinh văn bản và cách đưa thông tin vào context. Hai hoạt động thực hành được bố trí trên lớp.
3.1Cách huấn luyện model: pre-training, fine-tuning, RLHF●●○Nhà5′
Ý chínhBa giai đoạn đưa model từ khả năng dự đoán chữ thành trợ lý làm theo yêu cầu: pre-training trên khối văn bản lớn, supervised fine-tuning với ví dụ mẫu, và RLHF điều chỉnh theo đánh giá của con người. Reward model là một model học từ xếp hạng của người đánh giá — không phải người trực tiếp can thiệp vào từng câu trả lời.
Kỹ năngHọc viên phân biệt được ba giai đoạn và giải thích được reward model học từ đâu.
Hình thứcVideo 5 phút, dùng ẩn dụ một người đọc toàn bộ thư viện rồi mới học ngữ pháp và cách giao tiếp.
3.2Model có thực sự hiểu không? Thí nghiệm Othello-GPT●○○Nhà6′
Ý chínhCâu hỏi về bản chất "hiểu" của model, từ phép thử Turing đến quan điểm "stochastic parrots", và thí nghiệm Othello-GPT: model được huấn luyện chỉ trên chuỗi nước đi, không kèm luật, nhưng hình thành được biểu diễn bàn cờ bên trong; can thiệp vào biểu diễn này làm thay đổi nước đi tiếp theo. Đây là bằng chứng model xây dựng mô hình thế giới nội tại, không chỉ tương quan thống kê.
Kỹ năngHọc viên mô tả được thí nghiệm và giải thích được vì sao kết quả là bằng chứng nhân quả.
Hình thứcVideo 6 phút với ba trạng thái bàn cờ hiện dần theo lập luận. Phương án thay thế: một trang đọc kèm ba hình.
3.3Ba giới hạn của LLM và bốn cách dùng LLM●●●Nhà5′
Ý chínhBa giới hạn cố hữu: kiến thức dừng ở thời điểm huấn luyện; trả lời tự tin cả khi sai; giới hạn context. Ngoài ra, model có xu hướng học tương quan bề mặt và điều chỉnh theo người dùng. Bốn cách tiếp cận LLM theo mức kiểm soát tăng dần: ứng dụng chat, trợ lý lập trình, API, tự triển khai — chương trình tập trung vào API.
Kỹ năngHọc viên nêu được ba giới hạn và xác định được mình đang dùng LLM ở mức nào.
Hình thứcVideo 5 phút, mỗi giới hạn có một hình minh hoạ, bốn cách tiếp cận trình bày theo bậc.
3.4Thực hành: các tham số điều khiển cách model chọn chữ●●●Lớp5′
Ý chínhBa tham số khi sinh văn bản: top-k và top-p giới hạn tập ứng viên; temperature điều chỉnh mức ngẫu nhiên khi chọn trong tập đó. Nhầm lẫn phổ biến là đồng nhất temperature với "độ sáng tạo". Học viên thao tác trực tiếp trên công cụ trực quan hoá, điều chỉnh từng tham số và quan sát phân bố xác suất thay đổi.
Kỹ năngHọc viên phân biệt được hai nhóm tham số và đã trực tiếp quan sát tác động của chúng.
Hình thứcTương tác 5 phút trên công cụ Transformer Explainer nhúng sẵn, có hướng dẫn từng bước. Cần người hướng dẫn hỗ trợ thiết lập ban đầu. Phương án thay thế: video minh hoạ 5 phút.
3.5Mô phỏng: cách đưa thông tin vào context cho hiệu quả●●●Lớp4′
Ý chínhBa nguyên tắc: đặt yêu cầu quan trọng ở đầu hoặc cuối, không ở giữa; giữ context gọn — tóm tắt hội thoại dài, cung cấp đúng tệp cần thiết thay vì toàn bộ; trích đoạn liên quan thay vì đưa toàn bộ tài liệu — nền tảng của kỹ thuật RAG. Học viên chọn kịch bản và quan sát kết quả, số token, và chi phí tương ứng. Kèm lưu ý về trường hợp không cần áp dụng: với prompt ngắn, vị trí thông tin không ảnh hưởng.
Kỹ năngHọc viên lựa chọn đúng cách đưa thông tin trong tình huống thực tế và giải thích được lý do.
Hình thứcTương tác mô phỏng 4 phút: ba kịch bản cấu hình sẵn, hiển thị kết quả, token và chi phí của từng kịch bản. Kèm trang tóm tắt ba quy tắc dạng bảng tra cứu để học viên lưu lại. Phương án thay thế: video so sánh hai kịch bản.
3.6Quiz Module 3●●○Nhà4′
Ý chính3 câu kiểm tra: khái niệm pre-training, nguồn học của reward model, vị trí thông tin trong prompt dài.
Kỹ năngHọc viên tự kiểm tra ba ý chính của module.
Hình thứcQuiz 3 câu, chấm ngay.
Module 4 · Từ LLM đến Agent, và bản đồ thị trường
Module này nối LLM với ứng dụng thực tế: agent là gì và cần những thành phần nào; thị trường model đang phát triển theo hướng nào. Phần về thị trường được sản xuất tách riêng để cập nhật định kỳ. Module kết thúc bằng hoạt động áp dụng vào bối cảnh cá nhân của học viên.
4.1Agent là gì: LLM cộng thêm những gì●●●Nhà6′
Ý chínhLLM đơn lẻ chưa đủ để thực hiện tác vụ. Chain-of-thought cải thiện độ chính xác bằng cách cho model lập luận từng bước. Năm thành phần cần bổ sung quanh LLM: context, tools, memory, guardrails, và evaluation — trong đó evaluation quyết định phần lớn thành công của sản phẩm. Bốn mức độ tự chủ của agent. Cấu trúc agent là một vòng lặp: mục tiêu, lập luận, gọi công cụ, quan sát, hành động. Ví dụ Voyager: agent tự tích luỹ kỹ năng trong môi trường Minecraft.
Kỹ năngHọc viên giải thích được agent không phải một loại model khác, mà là LLM đặt trong vòng lặp có khả năng hành động.
Hình thứcVideo 6 phút. Sơ đồ năm thành phần hiện dần quanh LLM, sau đó vòng lặp agent chạy trên một ví dụ.
4.2Mô phỏng: lắp ráp một agent từ các khối●●○Lớp4′
Ý chínhHọc viên kéo bốn thành phần — context, tools, memory, guardrails — vào vị trí quanh LLM, chạy tác vụ mẫu "đặt vé máy bay Hà Nội – TP.HCM", và quan sát tác vụ thất bại ở đâu khi thiếu từng thành phần. Hoạt động này chuẩn bị cho Ngày 3.
Kỹ năngHọc viên hiểu vai trò từng thành phần qua việc quan sát hậu quả khi thiếu nó.
Hình thứcTương tác kéo-thả và chạy mô phỏng 4 phút; kịch bản cấu hình sẵn để mỗi thành phần thiếu gây một lỗi khác nhau. Phương án thay thế: video minh hoạ.
4.3Xu hướng thị trường model AI●●○Nhà6′
Ý chínhBa xu hướng ổn định thay vì danh sách tên model: chi phí giảm khoảng mười lần mỗi năm; năng lực hội tụ giữa model mở và model đóng; trọng tâm chuyển từ năng lực model sang thiết kế hệ thống. Kèm dữ liệu minh hoạ và nhận định: kiến trúc Transformer không đổi từ 2017, tiến bộ đến từ cách huấn luyện. Nội dung cập nhật hàng quý.
Kỹ năngHọc viên đọc được xu hướng thị trường mà không phụ thuộc vào tên model cụ thể, và có tư duy dài hạn khi thiết kế sản phẩm.
Hình thứcVideo 6 phút với biểu đồ xu hướng, sản xuất tách riêng để cập nhật định kỳ. Kèm bảng so sánh các model hiện có — context window, chi phí, điểm mạnh — dạng PDF, cập nhật cùng lúc. Phương án thay thế: một trang đọc.
4.4Hội thoại với AI: tìm chỗ dùng AI trong việc của bạn●●○Nhà5′
Ý chínhHọc viên mô tả một công việc hàng ngày; trợ lý AI đặt câu hỏi để phân loại công việc đó theo bản đồ đã học và gợi ý mức model phù hợp. Hoạt động áp dụng kiến thức vào bối cảnh cá nhân.
Kỹ năngHọc viên xác định được ít nhất một điểm có thể áp dụng AI trong công việc của chính mình.
Hình thứcHội thoại với trợ lý AI theo kịch bản 4 bước, 5 phút, có gợi ý khi cần. Phương án thay thế: biểu mẫu 3 câu tự điền.
Module 5 · Chọn model, ước tính chi phí, gọi API
Module thực hành, chuẩn bị trực tiếp cho Lab 1: cách chọn model phù hợp với công việc, cách ước tính chi phí, và cấu trúc một lần gọi API.
5.1Chọn model theo việc và ước tính chi phí●●●Nhà6′
Ý chínhChọn model theo ba tầng thay vì theo tên: tầng cao nhất, tầng cân bằng (mặc định), tầng tự triển khai. Cơ chế tính chi phí theo token: token đầu ra đắt gấp ba đến năm lần token đầu vào; hội thoại dài làm chi phí tăng dần theo từng lượt. Ví dụ so sánh chi phí hai model cho cùng khối lượng. Benchmark chỉ là tín hiệu tham khảo; đánh giá tin cậy nhất là thử trên chính bài toán và dữ liệu của mình.
Kỹ năngHọc viên chọn được tầng model phù hợp và ước tính được chi phí 1 lượt gọi.
Hình thứcVideo 6 phút, bảng ba tầng và biểu đồ chi phí tăng theo lượt hội thoại.
5.2Công cụ tính chi phí gọi API●●○Nhà3′
Ý chínhHọc viên chọn model, nhập prompt thực tế và số lượt sử dụng hàng tháng, nhận kết quả chi phí ước tính. So sánh cùng nội dung bằng tiếng Việt và tiếng Anh để thấy ảnh hưởng của token đến chi phí.
Kỹ năngHọc viên tự tính được chi phí cho một tình huống sử dụng cụ thể.
Hình thứcTương tác dạng công cụ tính, 3 phút, bảng giá cập nhật cùng item 4.3. Phương án thay thế: bài tập tính với bảng giá cho sẵn.
5.3Giải phẫu một lần gọi API●●●Nhà → Lớp7′
Ý chínhCấu trúc prompt bốn lớp: system, user, context, định dạng đầu ra. Một lần gọi API hoàn chỉnh: các trường trong request (model, messages, max_tokens, temperature) và trong response (content, finish_reason, usage). Model không lưu trạng thái giữa các lần gọi; ứng dụng chat là vòng lặp trong đó lịch sử hội thoại do ứng dụng quản lý và gửi lại. Streaming là chế độ trả về từng token.
Kỹ năngHọc viên đọc hiểu được một lần gọi API và giải thích được vì sao model không "nhớ" giữa hai lần gọi.
Hình thứcVideo 7 phút ghi màn hình: soạn request, gửi, đọc response, giải thích từng trường. Trên lớp, học viên tự thực hiện lại trong lab.
5.4Quiz Module 5●●○Nhà5′
Ý chính4 câu kiểm tra: ba yếu tố cân nhắc trong mỗi lần gọi API, vai trò của system message, ý nghĩa của temperature bằng 0, ý nghĩa của top_p bằng 0.9.
Kỹ năngHọc viên tự kiểm tra trước khi vào lab.
Hình thứcQuiz 4 câu, chấm ngay.
Tổng kết
TTổng kết ngày●●○Lớp3′
Ý chínhGiảng viên trả lời câu hỏi mở đầu bằng năm điểm chính: LLM là Transformer kết hợp huấn luyện quy mô lớn và alignment; token là đơn vị của mọi tương tác; chọn model theo công việc, chi phí và độ trễ; evaluation quyết định thành công; và giới thiệu Ngày 2.
Kỹ năngHọc viên tóm tắt được năm điểm chính bằng ngôn ngữ của mình.
Hình thứcVideo giảng viên, 3 phút.
Mở rộng
Ba video dành cho học viên muốn đi sâu hơn vào cơ chế kỹ thuật. Không bắt buộc; có thể xem sau khi hoàn thành ngày học.
M.1Cơ chế bên trong attention (Query, Key, Value)●○○Nhà8′
Ý chínhCơ chế đánh giá liên quan trong attention qua ba thành phần Query, Key, Value, dùng ẩn dụ tra cứu thư viện: tiêu đề trên kệ là key, nội dung sách là value. Mở rộng cho item 2.3.
Kỹ năngHọc viên hiểu được cơ chế tính toán, đủ nền để đọc tài liệu gốc.
Hình thứcVideo 8 phút, hình minh hoạ tĩnh kèm thuyết minh.
M.2Temperature, top-k, top-p hoạt động thế nào●○○Nhà6′
Ý chínhCơ chế toán học của ba tham số: temperature thay đổi hình dạng phân bố xác suất; greedy, top-k, top-p khác nhau ở cách chọn tập ứng viên; hướng dẫn chọn tham số theo mục đích sử dụng. Mở rộng cho item 3.4.
Kỹ năngHọc viên tự chọn được tham số phù hợp khi gọi API.
Hình thứcVideo 6 phút, minh hoạ phân bố xác suất biến đổi theo từng tham số.
M.3Giới hạn thật của context dài●○○Nhà8′
Ý chínhVì sao context lớn không đồng nghĩa với việc model xử lý tốt toàn bộ thông tin: hiện tượng suy giảm chú ý ở phần giữa, sự suy giảm chất lượng khi context quá dài, và kinh nghiệm thực tế khi làm việc với phiên dài. Kèm hướng dẫn quản lý context trong phiên làm việc kéo dài. Mở rộng cho item 3.5.
Kỹ năngHọc viên đánh giá đúng năng lực thực tế của context dài và biết cách quản lý phiên làm việc dài.
Hình thứcVideo 8 phút, có phần chia sẻ kinh nghiệm thực tế của giảng viên.
Lab
LLab 1: gọi API và đo chi phí●●●Lớp150′
Ý chínhGọi API của ba nhà cung cấp; thử các tham số temperature, top_p, max_tokens; so sánh chất lượng đầu ra giữa các model trên cùng prompt; đo độ trễ và chi phí mỗi lần gọi; xây dựng ứng dụng chat đơn giản có streaming. Học viên nộp script để đánh giá.
Kỹ năngHọc viên thực hiện được lần gọi API đầu tiên, có script chạy được, và đọc được thông tin chi phí từ response.
Hình thứcLab 2,5 giờ tại lớp với người hướng dẫn, theo repo có sẵn. Kèm script mẫu gọi API ba nhà cung cấp, có sẵn vị trí điền khoá API.