サーバー群を描く前に、1つのリクエストを追跡してください。ブラウザーやモバイルクライアントは、名前を解決し、公開エンドポイントに到達して、サービスにリクエストを送ります。ロードバランサーは、条件を満たすバックエンドにリクエストを分散します。ヘルスチェックは障害の起きたインスタンスに新しいトラフィックが届かないようにしますが、失敗したリクエストを消してくれるわけではありません。タイムアウトと再試行には、やはりポリシーが必要です。
レプリカが役立つのは、別のインスタンスがリクエストを処理できる場合だけです。セッションの状態がすべて1台のサーバーにある場合、正常な代わりのサーバーにルーティングするとセッションが失われることがあります。共有する状態を適切なストアに移すか、要件が許すなら署名付きのクライアントトークンを使ってください。これらの練習問題では架空の読み取りサービスを使うので、独立したAPIのレプリカが適しています。リクエストの向きをたどり、複製された計算資源と複製された永続データを区別してください。