Le langage est complexe. Le sarcasme, l'ambiguïté et le contexte peuvent dérouter les programmes les plus simples. Le traitement automatique du langage naturel permet de concevoir des systèmes qui analysent, interprètent et génèrent le langage humain, des correcteurs orthographiques aux moteurs de traduction en passant par les chatbots.

Les tâches de traitement comprennent la tokenisation, l'étiquetage morphosyntaxique, l'analyse syntaxique et la reconnaissance d'entités nommées. Les tâches de niveau supérieur incluent l'analyse des sentiments, la synthèse vocale, la réponse aux questions et le dialogue. Les transformateurs gèrent désormais la plupart de ces opérations de bout en bout.

Tâches de base en NLP

• Tokenisation et normalisation
• Étiquetage morphosyntaxique
• Reconnaissance d'entités nommées
• Analyse des sentiments
• Traduction automatique
• Résumé et réponse aux questions

L'évaluation est sujette à controverse. Les systèmes BLEU et ROUGE mesurent la superposition de surface, et non le sens. L'évaluation humaine est coûteuse et peu fiable. Un modèle obtenant un bon score à un test de référence peut néanmoins produire un résultat qu'un locuteur natif jugera étrange.