Quem pediu: a equipe de plataforma da Ridgeway Freight, uma transportadora fictícia cujos servidores de despacho gravam uma linha de log por requisição.
Por quê: eles querem totais em tempo real enquanto os logs chegam de vários servidores ao mesmo tempo: quantas linhas há de cada nível, quanto tempo cada serviço leva e qual é o mais lento. Uma única thread não dá conta, então o serviço usa um pool de threads de trabalho.
Os dados: linhas como billing ERROR 120: o nome de um serviço, um nível (INFO, WARN ou ERROR) e uma duração em milissegundos inteiros. Algumas linhas estão malformadas: faltam campos, têm níveis desconhecidos, palavras a mais ou durações negativas ou que não são números.
O que é estar pronto: um parse que aceita exatamente as linhas válidas; uma classe Stats que muitas threads podem atualizar e ler ao mesmo tempo; slowest() com os empates resolvidos pelo nome; uma LineQueue que pode ser fechada; um LogService cujas threads de trabalho analisam e contam cada linha enviada de qualquer thread, com um finish() que fecha a fila e faz join das threads de trabalho; e as linhas malformadas contadas em vez de perdidas, com um finish() que pode ser chamado duas vezes sem problema.
Seis passos, cada um sobre o seu código do passo anterior, de um analisador até um serviço com várias threads. Em cada passo, rode os testes e leia o que falha: o novo requisito costuma trazer uma nova forma de errar em algum escalonamento.
Aqui as threads são simuladas. Seu programa roda em uma única thread real enquanto um escalonador alterna entre as suas threads nas leituras e escritas compartilhadas, nos bloqueios, nas operações atômicas, nas esperas, nos yields e nas pausas, e cada teste roda com 12 escalonamentos diferentes. A ordem em que as coisas podem acontecer, as condições de corrida nesses pontos e os deadlocks são fiéis. O ganho real de velocidade do paralelismo e os efeitos de ordenação fraca de memória não são.