语言很复杂。讽刺、歧义和语境会让简单的程序束手无策。自然语言处理构建的系统能够解析、解释和生成人类语言，从拼写检查器到翻译引擎再到聊天机器人，无所不包。

流水线任务包括分词、词性标注、句法分析和命名实体识别。更高级别的任务包括情感分析、摘要生成、问答系统和对话生成。Transformer 模型现在可以端到端地处理其中大部分任务。

核心自然语言处理任务

• 分词和规范化
• 词性标注
• 命名实体识别
• 情感分析
• 机器翻译
• 总结与问答

评估方法存在争议。BLEU 和 ROUGE 衡量的是表面重叠度，而非含义。人工评估成本高昂且结果不一致。即使模型在基准测试中得分很高，其输出结果也可能令母语流利者感到奇怪。