Prompt Injection (Chèn prompt) là một kỹ thuật tấn công nhắm vào các ứng dụng LLM bằng cách chèn các prompt độc hại hoặc gây hiểu lầm vào đầu vào của người dùng. Mục tiêu của prompt injection là thao túng LLM để tạo ra các phản hồi không mong muốn hoặc có hại, vượt qua các guardrails và kiểm duyệt. Kỹ thuật này tận dụng bản chất dễ bị tổn thương của LLM đối với các đầu vào được chế tạo cẩn thận, có thể lừa mô hình thực hiện các hành động không mong muốn hoặc tiết lộ thông tin nhạy cảm.