Chunking là quá trình chia nhỏ văn bản thành các đoạn nhỏ hơn, được gọi là chunk. Kỹ thuật này được sử dụng trong RAG để chia nhỏ các tài liệu lớn thành các đoạn nhỏ hơn, dễ quản lý hơn, sau đó có thể được nhúng và lưu trữ trong cơ sở dữ liệu vector. Chunking đảm bảo rằng các đoạn văn bản có liên quan được truy xuất và sử dụng làm ngữ cảnh để tạo ra câu trả lời.