Northwind Retail meminta distributed cache untuk 500 GB data produk. Serahkan cakupan, jumlah node, jalur cache dengan partisi dan eviction, perlindungan dari stampede, rencana untuk hot key, perbaikan untuk harga yang usang, dan pilihan pemetaan key.
Bagaimana pewawancara menilai level desain ini
- Junior: menempatkan cache di depan database dengan jalur miss yang jelas dan eviction.
- Mid-level: memakai consistent hashing, melakukan invalidasi saat penulisan, dan mencegah stampede.
- Senior: menangani hot key, kehilangan node, replikasi, dan biaya memanaskan cache yang dingin.
Northwind Retail menyimpan 500 GB data produk di cache agar halaman produk termuat dalam hitungan milidetik. Satu mesin tidak sanggup menampungnya, sehingga cache dibagi ke beberapa node, dan pembagian itu harus tahan terhadap perubahan: menambah node saat promo tidak boleh membuat sebagian besar key langsung miss sekaligus, dan kehilangan satu node tidak boleh mengirim banjir request ke database.
Anda akan menentukan ukuran cluster, memilih cara key dipetakan ke node, memilih kebijakan eviction, melindungi database dari stampede dan hot key, serta memperbaiki jalur penulisan yang membiarkan harga usang tersimpan di cache selama satu jam. Cache tidak pernah menjadi sumber kebenaran; setiap keputusan mengasumsikan data dapat dibangun ulang dari database.
Partisikan key dengan consistent hashing, lakukan eviction dengan bijak, dan lindungi database dari stampede, hot key, dan penulisan yang usang.