Transformer 最早在 Attention Is All You Need 中以机器翻译架构的形式提出。理解它的一个起点是：每个位置怎样从其他位置取回当前需要的信息？
这篇旧稿于 2026 年 9 月补全。保留原始链接与项目背景，修正了任务分类、预测评估等表述。示例代码用于理解模型结构，不代表训练结果。
Transformer 最早在 Attention Is All You Need 中以机器翻译架构的形式提出。理解它的一个起点是：每个位置怎样从其他位置取回当前需要的信息？
这篇旧稿于 2026 年 9 月补全。保留原始链接与项目背景，修正了任务分类、预测评估等表述。示例代码用于理解模型结构，不代表训练结果。
自然语言处理（NLP）研究怎样让计算机处理人类语言。这里不从复杂模型开始，而是沿着“任务 → 数据 → 表示 → 模型 → 评估”走一遍，把第一条可运行的流程搭起来。
原文发表于 2022 年；本次正文于 2026 年 9 月补全。下方数据为自拟教学样本，不用于证明任何模型的真实性能。
The original Attention Is All You Need introduced Transformer as an encoder–decoder architecture for machine translation. A useful starting question is: how does each position retrieve the information it needs from other positions?
This note retains its original publication date and URL. It was completed and revised in September 2026. The code below demonstrates tensor flow, not trained forecasting performance.
Natural language processing is about working with human language computationally. This introduction follows a practical path: define the task, prepare the data, represent the text, train a baseline, and evaluate it.
Originally published in 2022; completed and revised in September 2026. The examples below use a tiny, invented dataset for teaching, not for benchmarking.