Juniper API te pide frenar unas pocas claves de API que la están inundando a través de sus 12 nodos de pasarela. El pico ficticio es de 50,000 peticiones/s. Cada clave puede hacer 100 peticiones por minuto con ráfagas cortas. Entrega los requisitos, una estimación de la carga de contadores, una API de cuota, la ruta del limitador en la pizarra, actualizaciones atómicas de los contadores, una política ante caídas y la elección de un algoritmo.
Cómo valoran este diseño en una entrevista según el nivel
- Junior: coloca el limitador antes del servicio, lo asocia a la clave de API y devuelve 429 con un tiempo de reintento.
- Nivel medio: explica por qué fallan los contadores por nodo, hace atómicas las actualizaciones y dimensiona el almacén de contadores.
- Senior: elige fallar abierto o cerrado según la promesa al cliente, acota la ráfaga en los bordes de la ventana y planifica las claves muy usadas y los límites regionales.
Juniper API vende el acceso por clave de API, y unas pocas claves la están inundando. Cada nodo de pasarela solo ve su propio tráfico, así que un límite contado por nodo deja que un cliente reparta las peticiones entre nodos y supere varias veces su cuota. El límite tiene que ser compartido.
Recorrerás el arco completo de una entrevista: qué promete el limitador, cuánto tráfico de contadores genera, qué respuesta recibe un cliente limitado, dónde se sitúa el limitador en la ruta de la petición y cómo siguen siendo correctos los contadores cuando dos pasarelas actualizan la misma clave a la vez. Después decidirás qué pasa cuando el almacén de contadores no responde, porque un limitador que falla cerrado puede tumbar con él toda la API.
Comparte un límite por clave de API entre las pasarelas, mantén atómicos los contadores y decide qué pasa cuando falla el almacén de contadores.