Giới thiệu tổng quan về Module LLM

Đây là module giới thiệu tổng quan về chatbot AI và Large Language Model (LLM) cũng như cách áp dụng chúng vào công việc.

1. Cơ bản về ChatBot AI và LLM

• Chatbot AI là gì và chúng có thể làm được những gì?
• Cách thức ChatGPT hoạt động và công nghệ LLM phía sau nó.
• Một số khái niệm cơ bản như token, tokenizer và context size.

2. Áp dụng AI vào công việc hàng ngày

• Cách viết Prompt chuẩn và Prompt Engineering cơ bản.
• Áp dụng AI vào công việc hàng ngày của lập trình viên, nhân viên văn phòng, blogger, sinh viên, giáo viên... (Dịch, chỉnh sửa nội dung, phân loại, tổng hợp dữ liệu...)
• Một số chiêu trò phổ biến jailbreak/hack các LLM

3. Sử dụng ChatGPT ở máy cá nhân, không cần Internet

Với một số công việc cần bảo mật hoặc không thể dùng ChatGPT, chúng ta sẽ học cách chạy LLM tương tự ở máy cá nhân.

• Local LLM là gì, tại sao nên dùng, tìm ở đâu, cần máy cấu hình như thế nào?
• Sử dụng LLM Studio để chạy LLM ở local

---

👨‍💻 4. Kiến thức về LLM cho Developer (⭐ là nội dung/dự án chỉ khoá engineer mới có)

Với những bạn học khoá Developer/Engineer, chúng ta sẽ học thêm một số kiến thức sau:

• Sử dụng Python và thư viện transformers chạy GPT2 phiên bản sơ khai để hiểu sâu hơn

• Tìm hiểu kĩ hơn về token, tokenizer và context size.
• Prompt Engineering nâng cao, và các prompt format hay dùng như OpenAI, Vicuna, ChatML...
• Sử dụng API của OpenAI/TogetherAI/GroqAI. Các parameter cần chú ý khi sử dụng API.
• ⭐ Chạy LLM ở local và với API từ LLM Studio

👨‍💻 5. Thực hành qua các dự án

Các bạn cũng sẽ được thực hành qua các dự án như:

• Dùng Gradio để viết ứng dụng AI nhanh chóng
• Tạo chatbot AI đơn giản với Python/Gradio
• ⭐ Viết chatbot AI với ReactJS
• ⭐ Code trợ lý ảo/bạn trai/bạn gái ảo trên Telegram