ヒープの割り当て(new、大きくなるstd::vector、組み込みの小さなバッファーより長いstd::string、大きなラムダ式を保持するstd::function)は、アロケーターにメモリーを要求します。通常は速いのですが、遅いこともあり、ロックを取ることもあります。そのため、レイテンシーが重要なコードでは、メッセージや注文のたびに実行されるコードであるホットパスから割り当てを外します。ルールは、起動時に割り当て、実行中は再利用することです。
主な道具は次のとおりです。vectorのサイズを一度決めておき、n未満にとどまる限りpush_backが再割り当てしないようにするreserve(n)。vectorや文字列を空にしつつ、次に使うためにメモリーを保持するclear()。呼び出しのたびに新しいコンテナーを返す代わりに、出力バッファーを参照で渡すこと。std::to_charsでcharバッファーに数値を書き込むこと。そして、割り当てる可能性があるstd::functionとしてではなく、決して割り当てないテンプレートパラメーターとして、呼び出せるものを受け取ることです。
これらの演習では、テストがoperator newを、回数を数えるバージョンに置き換えます。allocation_count()はそれまでのヒープの割り当て回数を返すため、テストでは、ループがまったく割り当てを行わなかったことを確認できます。これは、レイテンシーを重視するチームが自分たちのテストスイートに書くのと同じ確認です。