Prompt Leaking

Prompt Leaking (Rò rỉ prompt) là một hình thức tấn công Prompt Injection, trong đó kẻ tấn công cố gắng trích xuất prompt ban đầu hoặc các hướng dẫn được sử dụng để điều chỉnh LLM. Điều này có thể dẫn đến việc tiết lộ thông tin nhạy cảm hoặc độc quyền được nhúng trong prompt. Kẻ tấn công có thể sử dụng các kỹ thuật khác nhau để đạt được điều này, chẳng hạn như đưa ra các câu hỏi được thiết kế để dụ LLM tiết lộ thông tin về prompt của chính nó.

Các thuật ngữ liên quan

Facebook Messenger

fb.com/toidicodedao

Email Support

[email protected]

Telegram

t.me/hoccodeai