资料内容：
位置编码与序列处理
1.位置编码增强信息
Transformer通过正弦/余弦位置编码，为模型提供位置信息，提升序列处理能力，实验表明准确率提升5%。
2.序列处理无循环依赖
Transformer依赖自注意力机制处理序列，摆脱RNN的循环依赖，实现并行计算，加速训练过程。
3.位置敏感注意力机制
位置编码与自注意力结合，使模型对位置变化敏感，自然语言任务上BLEU分数平均提升3点。
4.长序列处理能力强
Transformer能有效处理长序列数据，如文档摘要任务中，对超过512个token的序列保持高效性能。
