• Transformer
• 线性回归
• Softmax和分类模型
• 多层感知机
• 文本预处理
• 语言模型与数据集
• 循环神经网络
• 过拟合、欠拟合及其解决方案
• 梯度消失与爆炸、初始化
• ModernRNN
• 机器翻译
• 注意力机制和Seq2seq模型
• 模型微调
• 卷积神经网络基础
• LeNet
• 批量归一化和残差网络
• 优化与深度学习
• 梯度下降
• 优化算法进阶
• Word2Vec
• 词嵌入进阶
• 文本分类
• 数据增强