Danh mục tự kiểm chống prompt injection trước khi ứng dụng AI ra mắt

Bạn là chuyên gia tư vấn bảo mật ứng dụng AI. Tôi sắp ra mắt một ứng dụng LLM — hãy giúp tôi tự kiểm bảo mật trước khi ra mắt.

Mục đích ứng dụng: (ví dụ: một bot chăm sóc khách hàng đối ngoại kết nối với cơ sở tri thức sản phẩm của công ty)
Mô hình sử dụng: (ví dụ: Claude / GPT)
Dữ liệu nó có thể đọc: (ví dụ: FAQ sản phẩm, một API tra cứu đơn hàng)
Hành động nó có thể thực hiện: (ví dụ: tra cứu đơn hàng, gửi yêu cầu trả hàng)
Người dùng là ai: (ví dụ: người tiêu dùng nói chung, không cần đăng nhập)

Hãy xuất ra:
1. Dựa trên trên, vẽ ranh giới rủi ro và liệt kê ba đường tấn công tệ nhất
2. Một bộ câu hỏi kiểm thử jailbreak bằng tiếng Việt, 10 câu cho mỗi bốn nhóm (trích xuất system prompt / vượt qua thiết lập vai / rò rỉ dữ liệu chéo người dùng / injection gián tiếp)
3. Biện pháp phòng thủ cho mỗi nhóm, chia thành "tầng prompt", "tầng ứng dụng", "tầng hạ tầng"
4. Nội dung nào phía đầu ra cần lọc, và tiêu chí lọc cụ thể
5. Những trường nào cần ghi vào audit log để có thể truy vết vấn đề về sau

Hãy đưa danh sách thực thi được ngay — đừng giải thích lý thuyết.