Datele de antrenament predau un model de învățare automată. Modelul vede exemple și învață relația dintre intrări și ieșiri. Pentru un filtru de spam, datele de antrenament sunt e-mailuri etichetate ca spam sau nu spam. Pentru un clasificator de imagini, este vorba de fotografii etichetate cu conținutul lor. Pentru un model lingvistic, este vorba de cantități vaste de text. Modelul își ajustează parametrii interni pentru a minimiza diferența dintre predicțiile sale și etichetele corecte. Calitatea și cantitatea datelor de antrenament determină cât de bine performează modelul.

Datele de antrenament au mai multe cerințe. Trebuie să fie reprezentative pentru datele din lumea reală pe care modelul le va întâlni. Un model antrenat doar pe baza fotografiilor din timpul zilei eșuează la fotografiile din timpul nopții. Trebuie etichetat corect. Exemplele etichetate greșit îi predau modelului tipare greșite. Trebuie să fie suficient de mari pentru a surprinde variația datelor. Prea puține date duc la supraadaptare, în care modelul memorează exemplele de antrenament în loc să învețe tipare generale. Trebuie să fie lipsite de prejudecăți, altfel modelul va învăța și va amplifica această prejudecată. Datele de antrenament reprezintă, de asemenea, o problemă de confidențialitate. Modelele antrenate pe baza datelor cu caracter personal le pot memora și reproduce. Cadrele de reglementare impun din ce în ce mai mult documentarea surselor și a procesării datelor de antrenament. Datele nu sunt doar o intrare. Sunt o datorie și un atu. Modelul este la fel de bun ca datele din care a învățat.

Cerințe privind datele de instruire

• Reprezentativ — reflectă variația din lumea reală
• Etichetat — adevăr concret și precis
• Mari — suficiente exemple pentru a generaliza
• Imparțial — fără asimetrie sistematică
• Documentat — proveniența și prelucrarea sunt cunoscute

Datele de antrenament sunt profesorul. Modelul învață ceea ce arată datele. Datele proaste predau lecții proaste.