La memoria llega al procesador en líneas de caché, bloques de 64 bytes en la mayoría de las máquinas. Tocar un byte trae su línea entera, así que los datos que se usan juntos deben estar juntos, y los que no se usan deben quedarse aparte. De ahí salen cuatro hábitos:
- Ordena los miembros de un struct por tamaño, de mayor a menor. El compilador rellena cada miembro hasta su alineación, así que
char, long long, char ocupa 24 bytes donde long long, char, char ocupa 16. sizeof y alignof dan los números reales.
- Estructura de arrays. Un bucle que solo lee precios de un array de structs de orden completos arrastra también por la caché todos los demás campos. Tener cada campo en su propio array hace que ese bucle no lea más que precios.
- Separar lo caliente de lo frío. Lleva los campos que la ruta crítica nunca lee (un nombre de cliente, un comentario) a un struct aparte, para que el caliente siga siendo pequeño.
- Una línea por escritor. Los contadores que escriben hilos distintos van en líneas distintas, o la línea rebota entre procesadores.
Aquí las pruebas miden lo que se puede medir con exactitud: tamaños, alineaciones, direcciones y el número de líneas que toca un bucle. Los tiempos en una pestaña del navegador variarían de una ejecución a otra; estos números no.
Los mismos miembros en otro orden: un tercio menos de memoria, y caben cuatro en una línea de caché en lugar de dos y un poco.