Sebagian besar program konkuren adalah thread yang saling meneruskan pekerjaan lewat antrean: dari gateway ke matching engine, dari feed ke strategi, daftar tugas sebuah pool. Antrean yang aman untuk thread adalah sebuah std::deque dan sebuah mutex yang melindunginya, ditambah condition variable agar consumer bisa tidur selama antrean kosong.
Antarmukanya perlu dirancang dengan hati-hati, karena empty() yang diikuti front() adalah race condition jenis check-then-act: ketika Anda bertindak, consumer lain mungkin sudah mengambil item itu. Karena itu antrean yang aman menyediakan operasi gabungan: pop() menunggu dan mengeluarkan dalam satu pemanggilan; try_pop() mengembalikan std::optional yang kosong ketika tidak ada apa-apa, tanpa menunggu.
Sebuah antrean juga membutuhkan akhir. close() menandainya selesai dan membangunkan semua consumer yang menunggu; pop() terus menyerahkan sisa item dan mengembalikan std::nullopt hanya setelah antrean ditutup dan kosong. Ketika consumer tidak sanggup mengimbangi, antrean berkapasitas terbatas akan membuat producer menunggu atau, untuk data pasar yang hanya memerlukan yang terbaru, membuang item paling lama.
Thread di sini disimulasikan. Program Anda berjalan pada satu thread nyata sementara sebuah scheduler berpindah di antara thread Anda pada pembacaan dan penulisan bersama, lock, operasi atomic, wait, yield, dan sleep, dan setiap tes dijalankan dengan 12 jadwal yang berbeda. Urutan hal-hal yang bisa terjadi, race condition pada titik-titik tersebut, dan deadlock disimulasikan secara akurat. Percepatan paralel yang sesungguhnya dan efek weak memory ordering tidak.
Tunggu, periksa, dan keluarkan dalam satu operasi yang di-lock.