훈련 데이터는 머신 러닝 모델을 학습시키는 데 사용됩니다. 모델은 다양한 예시를 접하고 입력과 출력 간의 관계를 학습합니다. 스팸 필터의 경우, 훈련 데이터는 스팸 또는 스팸이 아닌 것으로 분류된 이메일입니다. 이미지 분류기의 경우, 내용으로 분류된 사진들이 훈련 데이터가 됩니다. 언어 모델의 경우, 방대한 양의 텍스트가 훈련 데이터가 됩니다. 모델은 예측값과 실제 값 사이의 차이를 최소화하도록 내부 매개변수를 조정합니다. 훈련 데이터의 질과 양은 모델의 성능을 결정하는 중요한 요소입니다.

훈련 데이터에는 여러 가지 요건이 있습니다. 첫째, 모델이 접하게 될 실제 데이터를 대표해야 합니다. 낮에 촬영한 사진만으로 훈련된 모델은 밤 사진에서는 제대로 작동하지 않습니다. 둘째, 데이터는 정확하게 레이블링되어야 합니다. 레이블이 잘못된 데이터는 모델에 잘못된 패턴을 학습시킵니다. 셋째, 데이터의 다양성을 포착할 수 있을 만큼 충분히 커야 합니다. 데이터가 너무 적으면 과적합이 발생하여 모델이 일반적인 패턴을 학습하는 대신 훈련 데이터를 암기하게 됩니다. 넷째, 편향이 없어야 합니다. 그렇지 않으면 모델이 해당 편향을 학습하고 증폭시킬 수 있습니다. 훈련 데이터는 개인정보 보호 문제이기도 합니다. 개인 데이터로 훈련된 모델은 해당 데이터를 암기하고 복제할 수 있습니다. 규제 체계에서는 훈련 데이터의 출처와 처리 과정에 대한 문서화를 점점 더 요구하고 있습니다. 데이터는 단순한 입력값이 아닙니다. 자산이자 동시에 부담이기도 합니다. 모델의 성능은 학습에 사용된 데이터의 품질에 달려 있습니다.

훈련 데이터 요구 사항

• 대표성 — 실제 변동성을 반영함
• 레이블 지정됨 — 정확한 정답
• 규모가 크다 — 일반화하기에 충분한 사례가 있다
• 편향되지 않음 — 체계적인 왜곡이 없음
• 출처 및 처리 과정이 기록됨

훈련 데이터는 선생님과 같습니다. 모델은 데이터가 보여주는 것을 학습합니다. 잘못된 데이터는 잘못된 교훈을 줍니다.