A memória chega ao processador em linhas de cache, blocos de 64 bytes na maioria das máquinas. Tocar em um byte traz a linha inteira dele, então os dados usados juntos devem ficar juntos, e os que não são usados devem ficar fora do caminho. Disso saem quatro hábitos:
- Ordene os membros de um struct por tamanho, do maior para o menor. O compilador preenche cada membro até o seu alinhamento, então
char, long long, char ocupa 24 bytes onde long long, char, char ocupa 16. sizeof e alignof dão os números reais.
- Estrutura de arrays. Um loop que lê apenas preços de um array de structs de ordem completos arrasta pelo cache também todos os outros campos. Manter cada campo em seu próprio array faz esse loop ler somente preços.
- Separação entre quente e frio. Leve os campos que o caminho crítico nunca lê (o nome de um cliente, um comentário) para um struct separado, para que o quente continue pequeno.
- Uma linha por escritor. Contadores escritos por threads diferentes ficam em linhas diferentes, senão a linha fica pulando entre processadores.
Aqui os testes medem o que se pode medir com exatidão: tamanhos, alinhamentos, endereços e o número de linhas que um loop toca. Os tempos em uma aba do navegador variariam de uma execução para outra; esses números não.
Os mesmos membros em outra ordem: um terço a menos de memória, e cabem quatro deles em uma linha de cache em vez de dois e pouco.