Språk är rörigt. Sarkasm, tvetydighet och kontext får naiva program att falla. Naturlig språkbehandling bygger system som analyserar, tolkar och genererar mänskligt språk, från stavningskontroll till översättningsmotorer och chattrobotar.

Pipeline-uppgifter inkluderar tokenisering, ordklassmärkning, parsning och namngiven entitetsidentifiering. Uppgifter på högre nivå inkluderar sentimentanalys, sammanfattning, svar på frågor och dialog. Transformers hanterar nu de flesta av dessa från början till slut.

Kärnuppgifter i NLP

• Tokenisering och normalisering
• Ordklassmärkning
• Namngiven enhetsidentifiering
• Sentimentanalys
• Maskinöversättning
• Sammanfattning och besvarande av frågor

Utvärderingen är omtvistad. BLEU och ROUGE mäter ytlig överlappning, inte betydelse. Mänsklig utvärdering är dyr och inkonsekvent. En modell som får bra resultat på ett riktmärke kan fortfarande producera resultat som en flytande talare finner konstiga.