Acompanhe uma requisição antes de desenhar uma frota. Um navegador ou cliente mobile resolve um nome, chega a um endpoint público e envia uma requisição a um serviço. Um balanceador de carga distribui as requisições entre os backends elegíveis. Os health checks impedem que tráfego novo chegue a uma instância que falhou, mas não fazem uma requisição que falhou desaparecer. Timeouts e novas tentativas ainda precisam de uma política.
As réplicas só ajudam quando outra instância consegue atender a requisição. Se todo o estado de sessão fica em um servidor, rotear para um substituto saudável pode fazer a sessão se perder. Leve o estado compartilhado para um armazenamento adequado ou use um token assinado no cliente quando os requisitos permitirem. Estes exercícios usam serviços de leitura fictícios, então réplicas independentes da API são adequadas. Siga a direção das requisições e distinga a computação replicada dos dados duráveis replicados.
Acompanhe as requisições por réplicas saudáveis do serviço.