並行プログラムのほとんどは、キューを通じて処理を受け渡すスレッドでできています。ゲートウェイから約定処理へ、フィードから戦略へ、プールのタスクリストへ、という具合です。スレッドセーフなキューは、std::dequeとそれを守るミューテックス、そしてキューが空の間にコンシューマーが眠れるようにする条件変数でできています。
インターフェースには注意が必要です。empty()の後にfront()を呼ぶのは、確認してから実行する競合だからです。実行する時点では、別のコンシューマーが項目を取っているかもしれません。そのため、安全なキューは組み合わせた操作を提供します。pop()は1回の呼び出しで待機と取り出しを行い、try_pop()は待たずに、何もなければ空になるstd::optionalを返します。
キューには終わりも必要です。close()はキューを終了済みとし、待っているすべてのコンシューマーを起こします。pop()は残っているものを引き続き渡し、クローズされて空になってから初めてstd::nulloptを返します。コンシューマーが追いつけない場合、上限のあるキューは、プロデューサーを待たせるか、最新の値だけが重要なマーケットデータであれば、最も古い項目を捨てます。
ここでのスレッドはシミュレートされています。 プログラムは1つの実際のスレッドで動き、スケジューラーが、共有の読み書き、ロック、アトミックな操作、待機、yield、スリープの時点でスレッドを切り替えます。各テストは12通りのスケジュールで実行されます。処理が起こりうる順序、それらの時点での競合、デッドロックは忠実に再現されますが、実際の並列による高速化や弱いメモリーオーダーの効果は再現されません。