OpenAI Moderation API là một công cụ được cung cấp bởi OpenAI để phát hiện và gắn cờ nội dung có hại hoặc không phù hợp trong văn bản. Nó được thiết kế để giúp các nhà phát triển đảm bảo rằng các ứng dụng LLM của họ tuân thủ các nguyên tắc an toàn và đạo đức. API phân tích văn bản đầu vào và cung cấp điểm số cho các danh mục khác nhau của nội dung có hại, chẳng hạn như ngôn từ thù địch, tự hại, nội dung tình dục và bạo lực, cho phép các nhà phát triển thực hiện các hành động phù hợp để giảm thiểu rủi ro.