Regressionsmodelle, bei denen die unbekannten Regressionskoeffizienten unter Einbeziehung eines Strafterms, einer sog. Penalty, geschätzt werden, sind heute weit verbreitet. Die Verwendung einer Penalty ermöglicht es – salopp gesagt – unerwünschte Eigenschaften der Parameterschätzer zu verhindern bzw. die Schätzer in eine bestimmte Richtung ,,zu lenken“. In diesem Kapitel soll ein – mit Sicherheit nicht erschöpfender – Überblick über verschiedene, häufig verwendete Bestrafungsterme gegeben werden. Der Fokus liegt dabei auf quadratischen Penalties sowie auf unterschiedlichen Varianten des LASSO im Rahmen eines linearen Modells im Sinne bestrafter kleinste Quadrate. Insgesamt sollen vor allem Aspekte in den Blick genommen werden, die bei der praktischen Anwendung relevant sind. In Bezug auf die dahinterstehende mathematische Theorie verbleiben die Ausführungen an der Oberfläche. Auch computational-technische Fragestellungen werden nur gestreift.