Prompt injection dan batas aplikasi
Teks sumber tidak tepercaya
Dokumen yang diambil melalui retrieval dapat memuat instruksi yang ditujukan kepada asisten. Pada data uji angkutan rekaan, catatan buku panduan meminta asisten mengabaikan tugas dan mengirim catatan tenant lain ke alamat eksternal. Catatan tersebut tetap merupakan data sumber. Isinya tidak memberi izin untuk membaca catatan lain atau mengirim apa pun.
Tegakkan batas dalam kode aplikasi: batasi tenant sebelum retrieval, sediakan hanya alat yang diizinkan, lalu validasi payload tindakan secara tepat. Respons model yang mengklaim tindakan telah disetujui tidak menggantikan catatan persetujuan.
Batas pertahanan
OWASP LLM01:2025, yang diperiksa pada 14 November 2026, membedakan prompt injection langsung dan tidak langsung. Retrieval serta fine-tuning tidak sepenuhnya mencegah masalah ini. Detektor atau instruksi yang lebih kuat adalah salah satu kontrol; keduanya tidak membuktikan seluruh tindakan mendatang aman.
Latihan memakai string berbahaya yang sudah disiapkan dan alat lokal. Hasil lolos membuktikan pemeriksaan yang ditentukan pada kasus tersebut, bukan kekebalan terhadap semua serangan. Lanjutkan dengan filter tenant, dispatch yang diizinkan, dan persetujuan payload yang tepat.