Giới thiệu tổng quan về module này

Ở phần trước, bọn mình đã giới thiệu về chatbot AI và Large Language Model (LLM) cũng như cách áp dụng chúng vào công việc.

Ở phần này, bọn mình sẽ đi sâu hơn về kĩ thuật, công nghệ đằng sau LLM, cách viết code để sử dụng chúng, build prompt như thế nào, làm sao để viết app sử dụng LLM, tích hợp LLM vào các hệ thống có sẵn nhé.

Những kiến thức các bạn sẽ học trong Section này bao gồm (⭐ là nội dung/dự án chỉ khoá engineer mới có):

1. Kiến thức về LLM cho Developer

• Sử dụng Python và thư viện transformers chạy GPT2 phiên bản sơ khai để hiểu sâu hơn
• Tìm hiểu kĩ hơn về token, tokenizer và context size.
• Prompt Engineering nâng cao, cách build prompt, các prompt format hay dùng như OpenAI, Vicuna, ChatML...
• Sử dụng API của OpenAI/TogetherAI. Các parameter cần chú ý khi sử dụng API.
• ⭐ Chạy LLM ở local và tạo API bằng LLM Studio hoặc VLLM

2. Thực hành qua các dự án

Các bạn cũng sẽ được thực hành qua các dự án như:

• Dùng Gradio để viết ứng dụng AI nhanh chóng
• Tạo chatbot AI đơn giản với Python/Gradio
• ⭐ Viết chatbot AI với ReactJS
• ⭐ Code trợ lý ảo/bạn trai/bạn gái ảo trên Telegram

Khóa Developer & Engineer 👨🏻‍💻

Nhận diện hình ảnh - Viết ứng dụng AI nhận diện hình ảnh với Gradio

Gradio + OpenAI - Viết chatbot local như ChatGPT với Gradio

Độc quyền cho khóa Engineer 👨🏻‍💻⭐

React + OpenAI - Viết chatbot local như ChatGPT với React

Telegram Bot - Trợ lý ảo/bạn trai/bạn gái ảo trên Telegram