Model linier dapat menghasilkan koefisien yang tidak stabil ketika input saling tumpang tindih atau sampel pelatihan kecil. Regularisasi menambahkan penalti pada objektif fit. Ridge memakai penalti kuadrat koefisien; lasso memakai penalti nilai absolut koefisien dan dapat membuat sebagian koefisien menjadi nol. Pengaturan alpha mengendalikan kekuatan penalti.
Penalti bekerja pada ukuran koefisien, sehingga satuan input berpengaruh. Letakkan StandardScaler sebelum estimator dan lakukan fit kedua langkah pada baris data latih. Anda akan memakai alpha yang eksplisit agar eksperimen dapat direproduksi, bukan karena satu nilai cocok untuk setiap dataset. Pelajaran berikutnya memilih pengaturan dengan cross-validation. Fit yang diregularisasi dapat memiliki error pelatihan yang lebih buruk dan error holdout yang lebih baik, tetapi pertukaran itu harus diukur. Periksa prediksinya alih-alih berasumsi bahwa penalti apa pun memperbaiki model.
Penalti bergantung pada besar koefisien, jadi satuan fitur berpengaruh. Pipeline mempelajari skala saat fit dan memakainya kembali ketika memprediksi input baru.