入力が重なっていたり訓練の標本が小さかったりすると、線形モデルは不安定な係数を当てはめることがあります。正則化は、当てはめの目的関数にペナルティを加えます。リッジは係数の2乗のペナルティを使い、ラッソは係数の絶対値のペナルティを使って一部の係数をゼロにすることがあります。alphaの設定がペナルティの強さを制御します。
ペナルティは係数の大きさに作用するので、入力の単位が重要です。推定器の前にStandardScalerを置き、両方のステップを訓練の行で当てはめてください。明示的なalphaを使うのは実験を再現できるようにするためで、ある1つの値がどのデータセットにも適しているからではありません。後のレッスンでは、交差検証で設定を選びます。正則化した当てはめは、訓練の誤差が悪化し、取り分けたデータでの誤差が改善することがありますが、そのトレードオフは測定しなければなりません。どんなペナルティでもモデルが改善すると考えるのではなく、予測を調べてください。