Content Moderation (Kiểm duyệt nội dung) đề cập đến quá trình giám sát và kiểm soát nội dung được tạo ra hoặc chia sẻ bởi người dùng trong một ứng dụng hoặc nền tảng. Trong bối cảnh của các ứng dụng LLM, kiểm duyệt nội dung liên quan đến việc sử dụng các kỹ thuật khác nhau, bao gồm OpenAI Moderation API, guardrails và validators, để xác định và lọc nội dung có hại hoặc không phù hợp. Mục tiêu là tạo ra một môi trường an toàn và tôn trọng hơn cho người dùng, đồng thời ngăn chặn việc phổ biến thông tin sai lệch hoặc nội dung có hại.