Pohon keputusan membagi input dengan serangkaian aturan ambang batas. Berbeda dengan model linier, pohon keputusan dapat merepresentasikan interaksi tanpa Anda perlu menambahkan kolom interaksi terlebih dahulu. Pohon klasifikasi memprediksi kategori, sedangkan pohon regresi memprediksi nilai numerik di dalam daunnya. Keduanya dapat menghafal sampel pelatihan yang kecil jika Anda membiarkannya tumbuh bebas.
Batas kedalaman membatasi jumlah keputusan berurutan. Tugas-tugas ini menetapkan max_depth yang kecil dan random_state agar Anda dapat membandingkan hasil pelatihan secara berulang. Pohon umumnya tidak memerlukan standardisasi karena perubahan skala mempertahankan urutan nilai fitur numerik. Pohon tetap membutuhkan holdout yang jujur. Melatih model pada baris uji atau menukar classifier dengan regressor tidak memenuhi eksperimen, meskipun kode yang dihasilkan berjalan dan mengembalikan satu angka untuk setiap baris.
Estimator yang sudah di-fit belajar dari partisi pelatihan. Memprediksi masukan yang disisihkan menghasilkan satu keluaran untuk setiap pengamatan uji, siap dievaluasi.