Sebuah model memerlukan pembanding yang murah dibuat dan mudah dijelaskan. Untuk hasil numerik, memprediksi rata-rata data pelatihan memberikan baseline error kuadrat yang berguna. Untuk hasil klasifikasi, memprediksi kelas mayoritas data pelatihan memberikan baseline akurasi yang berguna. Model-model ini sengaja mengabaikan nilai input.
Baseline tetap harus mempelajari konstantanya dari label pelatihan. Menggunakan label uji untuk memilih konstanta itu mencemari perbandingan, meskipun estimatornya tidak memiliki koefisien. Baseline yang tepat juga bergantung pada metriknya: rata-rata meminimalkan error kuadrat, sedangkan konstanta median meminimalkan error absolut. Tugas-tugas ini meminta strategi tertentu agar Anda dapat melihat perbedaannya. Classifier kelas mayoritas bisa memiliki akurasi yang lumayan tanpa menemukan satu pun kasus positif, hal yang akan diperlihatkan oleh pelajaran tentang metrik.
Rata-rata adalah konstanta yang meminimalkan error kuadrat pada baris pelatihan. Target holdout tidak boleh memengaruhi konstanta itu.