Uma árvore de decisão divide as entradas com uma sequência de regras de limiar. Ao contrário de um modelo linear, ela consegue representar interações sem que você precise adicionar antes uma coluna de interação. Uma árvore de classificação prevê categorias, enquanto uma árvore de regressão prevê valores numéricos dentro das suas folhas. As duas podem memorizar amostras de treino pequenas se você deixá-las crescer sem limite.
Os limites de profundidade restringem o número de decisões sucessivas. As tarefas indicam um max_depth pequeno e um random_state para que você possa comparar os ajustes de forma repetível. As árvores geralmente não precisam de padronização, porque reescalar uma variável numérica preserva a ordem dela. Mesmo assim, elas precisam de um conjunto reservado honesto. Treinar com as linhas de teste ou trocar um classificador por um regressor não cumpre o experimento, mesmo que o código resultante seja executado e devolva um número por linha.
O estimador ajustado aprende com a partição de treino. Prever as entradas reservadas gera uma saída para cada observação de teste, pronta para ser avaliada.