メモリーはキャッシュライン単位でプロセッサーに届きます。ほとんどのマシンでは64バイトのブロックです。1バイトに触れるとそのライン全体が読み込まれるため、一緒に使うデータは近くに置き、使わないデータは邪魔にならないところに置くべきです。そこから4つの習慣が導かれます。
- 構造体のメンバーをサイズ順に並べる。 大きいものから並べます。コンパイラーは各メンバーをそのアラインメントに合わせてパディングするため、
char, long long, charは24バイトになりますが、long long, char, charなら16バイトです。sizeofとalignofで実際の値がわかります。
- SoA(配列の構造体)。 注文の構造体全体の配列から価格だけを読むループは、他のすべてのフィールドもキャッシュに引き込んでしまいます。各フィールドを専用の配列に置けば、そのループは価格だけを読みます。
- ホットとコールドの分割。 ホットパスが読まないフィールド(顧客名、コメント)を別の構造体に移し、ホットな構造体を小さく保ちます。
- 書き込み側ごとに1つのライン。 異なるスレッドが書き込むカウンターは別々のラインに置きます。そうしないと、ラインがプロセッサー間を行き来します。
テストは、ここで正確に計測できるものを計測します。サイズ、アラインメント、アドレス、ループが触れるラインの数です。ブラウザーのタブでの時間の計測は実行ごとにばらつきますが、これらの数値はばらつきません。