Ne každá předpověď je kategorií. Někdy je odpovědí číslo: zítřejší teplota, cena domu, krevní tlak pacienta. Regrese předpovídá spojité hodnoty ze vstupních rysů.

Lineární regrese fituje přímku nebo nadrovinu. Polynomiální regrese přidává zakřivení. Stromové metody, jako jsou náhodné lesy a gradientní boosting, zpracovávají nelineární vztahy bez explicitního inženýrství prvků.

Běžné regresní metriky

• Průměrná absolutní chyba
• Střední kvadratická chyba
• Střední kvadratická chyba
• R-kvadrát, vysvětlení podílu rozptylu

Odlehlé hodnoty zkreslují metriky čtvercové chyby více než metriky absolutní chyby. Výběr správné ztráty závisí na tom, zda si velké chyby zaslouží zvláštní váhu, či nikoli. Otázku obvykle vyřeší znalost oboru.