Negara atau wilayah dan bahasa

    Pilih negara atau wilayah dan bahasa Anda.

    Disarankan untuk Anda

      Semua negara dan wilayah

        Pilih karakter Anda

        Karakter ini tampil di bilah atas dan di profil Anda. Ubah kapan saja.

        Kursus Membangun dengan model bahasa

        Batas retrieval yang tidak tepercaya

        Membuka Membangun dengan model bahasa
        Giliran Anda

        Prompt injection dan batas aplikasi

        Teks sumber tidak tepercaya

        Dokumen yang diambil melalui retrieval dapat memuat instruksi yang ditujukan kepada asisten. Pada data uji angkutan rekaan, catatan buku panduan meminta asisten mengabaikan tugas dan mengirim catatan tenant lain ke alamat eksternal. Catatan tersebut tetap merupakan data sumber. Isinya tidak memberi izin untuk membaca catatan lain atau mengirim apa pun.

        Tegakkan batas dalam kode aplikasi: batasi tenant sebelum retrieval, sediakan hanya alat yang diizinkan, lalu validasi payload tindakan secara tepat. Respons model yang mengklaim tindakan telah disetujui tidak menggantikan catatan persetujuan.

        Batas pertahanan

        OWASP LLM01:2025, yang diperiksa pada 14 November 2026, membedakan prompt injection langsung dan tidak langsung. Retrieval serta fine-tuning tidak sepenuhnya mencegah masalah ini. Detektor atau instruksi yang lebih kuat adalah salah satu kontrol; keduanya tidak membuktikan seluruh tindakan mendatang aman.

        Latihan memakai string berbahaya yang sudah disiapkan dan alat lokal. Hasil lolos membuktikan pemeriksaan yang ditentukan pada kasus tersebut, bukan kekebalan terhadap semua serangan. Lanjutkan dengan filter tenant, dispatch yang diizinkan, dan persetujuan payload yang tepat.

        Your Work Gym account

        Save your progress and pick up on another device. Your browser's progress comes with you.

        or

        You can keep practicing without an account.

        Ubah paket Anda

        Memeriksa harga

        Bantuan dan masukan

        Ajukan pertanyaan, beri tahu kami apa yang tidak berfungsi, atau bagikan ide. Kami membalas lewat email.

        Tentang apa?

        Kami hanya menggunakannya untuk membalas Anda.