Un modelo necesita una comparación barata de construir y fácil de explicar. Para un resultado numérico, predecir la media del entrenamiento da un modelo de referencia útil para el error cuadrático. Para un resultado de clasificación, predecir la clase mayoritaria del entrenamiento da un modelo de referencia útil para la exactitud. Estos modelos ignoran a propósito los valores de entrada.
Aun así, el modelo de referencia tiene que aprender su constante a partir de las etiquetas de entrenamiento. Usar las etiquetas de prueba para elegir esa constante contamina la comparación, aunque el estimador no tenga coeficientes. El modelo de referencia adecuado también depende de la métrica: la media minimiza el error cuadrático, mientras que una constante igual a la mediana minimiza el error absoluto. Estas tareas piden una estrategia concreta para que veas la diferencia. Un clasificador de clase mayoritaria puede tener una exactitud aceptable sin encontrar ninguno de los casos positivos, algo que dejarán al descubierto las lecciones de métricas.
La media es la constante que minimiza el error cuadrático en las filas de entrenamiento. Los objetivos reservados no deben influir en esa constante.