Juniper APIが、少数のAPIキーによって12台のゲートウェイノードがあふれないようにしてほしいと求めています。架空のピークは50,000リクエスト/秒です。各キーは、短いバーストを含めて、1分間に100リクエストまで送れます。要件、カウンターの負荷の見積もり、クォータのAPI、ボード上のリミッターの経路、アトミックなカウンター更新、障害時のポリシー、アルゴリズムの選択を提出してください。
面接官はこの設計でレベルをどう判断するか
- ジュニア:リミッターをサービスの前に置き、APIキーをキーにして、再試行時刻付きで429を返します。
- ミドル:ノードごとのカウンターがうまくいかない理由を説明し、更新をアトミックにし、カウンターストアの規模を見積もります。
- シニア:顧客への約束に応じてフェイルオープンかフェイルクローズを選び、ウィンドウの境界でのバーストに上限を設け、ホットキーとリージョンごとの制限を計画します。
Juniper APIはAPIキー単位でアクセスを販売しており、少数のキーがAPIをあふれさせています。各ゲートウェイノードには自分のトラフィックしか見えないので、ノードごとに数える制限では、クライアントがリクエストを複数のノードに分散させ、クォータの何倍も通せてしまいます。制限は共有されなければなりません。
面接の流れ全体を通して取り組みます:リミッターが何を約束するか、どれだけのカウンターのトラフィックが生じるか、制限されたクライアントが受け取る応答、リクエストの経路上でのリミッターの位置、2つのゲートウェイが同じキーを同時に更新してもカウンターを正しく保つ方法です。フェイルクローズするリミッターはAPI全体を道連れに停止させかねないため、そのうえで、カウンターストアに到達できないときにどうなるかを決めます。