Ikke alle forudsigelser er en kategori. Nogle gange er svaret et tal: morgendagens temperatur, en huspris, en patients blodtryk. Regression forudsiger kontinuerlige værdier fra inputfunktioner.

Lineær regression tilpasser en ret linje eller et hyperplan. Polynomisk regression tilføjer krumning. Træbaserede metoder som tilfældige skove og gradientforstærkning håndterer ikke-lineære relationer uden eksplicit feature engineering.

Almindelige regressionsmålinger

• Gennemsnitlig absolut fejl
• Gennemsnitlig kvadreret fejl
• Rodmiddelkvadratfejl
• R-kvadrat, andel af varians forklaret

Outliers forvrænger kvadrerede fejlmålinger mere end absolutte fejlmålinger. Valget af det rigtige tab afhænger af, om store fejl fortjener ekstra vægt eller ej. Domænekendskab afgør normalt spørgsmålet.