Nem toda a previsão se enquadra numa categoria. Por vezes, a resposta é um número: a temperatura de amanhã, o preço de uma casa, a tensão arterial de um doente. A regressão prevê valores contínuos a partir de variáveis ​​de entrada.

A regressão linear ajusta uma reta ou um hiperplano. A regressão polinomial acrescenta curvatura. Os métodos baseados em árvores, como as florestas aleatórias e o gradient boosting, lidam com relações não lineares sem engenharia de características explícita.

Métricas de regressão comuns

• Erro absoluto médio
• Erro quadrático médio
• Erro quadrático médio
• R², proporção da variância explicada

Os valores discrepantes distorcem mais as métricas de erro quadrático do que as de erro absoluto. A escolha da função de perda adequada depende de se os erros grandes merecem ou não peso extra. O conhecimento do domínio geralmente resolve esta questão.