Juniper API meminta Anda menghentikan beberapa API key yang membanjiri 12 node gateway-nya. Puncak fiktifnya adalah 50,000 request/s. Setiap key boleh membuat 100 request per menit dengan burst singkat. Serahkan persyaratan, estimasi beban counter, API kuota, jalur limiter di papan, pembaruan counter yang atomik, kebijakan saat terjadi gangguan, dan pilihan algoritma.
Cara pewawancara menilai level desain ini
- Junior: menempatkan limiter sebelum service, mengaitkannya dengan API key, dan mengembalikan 429 beserta waktu untuk mencoba lagi.
- Mid-level: menjelaskan mengapa counter per node gagal, membuat pembaruan atomik, dan menghitung ukuran penyimpanan counter.
- Senior: memilih fail-open atau fail-closed sesuai janji kepada pelanggan, membatasi burst di tepi window, dan merencanakan key yang sangat sering diakses serta limit regional.
Juniper API menjual akses berdasarkan API key, dan beberapa key membanjirinya. Setiap node gateway hanya melihat lalu lintasnya sendiri, sehingga limit yang dihitung per node memungkinkan klien menyebar request ke banyak node dan melewati kuotanya beberapa kali lipat. Limitnya harus dibagikan.
Anda akan menelusuri alur wawancara secara utuh: apa yang dijanjikan limiter, seberapa banyak lalu lintas counter yang dihasilkannya, respons yang diterima klien yang terkena limit, di mana limiter berada pada jalur request, dan bagaimana counter tetap benar ketika dua gateway memperbarui key yang sama secara bersamaan. Setelah itu Anda akan memutuskan apa yang terjadi ketika penyimpanan counter tidak dapat dijangkau, karena limiter yang fail closed bisa menjatuhkan seluruh API bersamanya.
Bagikan satu limit per API key di seluruh gateway, jaga counter tetap atomik, dan tentukan perilaku saat penyimpanan counter gagal.