모델은 가공되지 않은 현실을 보는 것이 아닙니다. 모델은 데이터에서 추출되어 학습 알고리즘에 입력되는 측정 가능한 속성인 특징만을 봅니다. 집은 면적, 침실 개수, 건축 연식, 위치와 같은 특징으로 표현되고, 문서는 단어 수나 삽입된 이미지 데이터로 표현됩니다.

특징 엔지니어링은 한때 응용 머신 러닝 분야를 지배했습니다. 실무자들은 모델이 패턴을 찾도록 돕기 위해 비율, 로그 변환, 상호작용 항 등을 수작업으로 만들어냈습니다. 하지만 딥 러닝의 등장으로 이러한 작업 방식이 바뀌었고, 네트워크는 원시 입력값에서 직접 특징을 학습할 수 있게 되었습니다.

일반적인 기능 유형

• 가격이나 온도와 같은 수치 값
• 범주형 레이블은 숫자로 인코딩됩니다.
• 텍스트를 개수 또는 벡터로 변환
• 이미지 픽셀 또는 학습된 임베딩
• 파생 비율 및 상호 작용

좋은 특징은 신호를 잘 전달합니다. 중복되거나 잡음이 많은 특징은 학습 속도를 늦추고 일반화 성능을 저해합니다. 따라서 특징 선택 및 추출은 특히 딥러닝의 이점이 크지 않은 소규모 데이터셋에서 여전히 중요합니다.