Transformers documentation
Trainer
快速入门
基类
模型
预处理器
推理
Pipeline API
生成 API
优化
与模型对话
服务
训练
硬件
量化
生态系统集成
资源
API
Trainer
Trainer 是 Transformers 模型的完整训练和评估循环。您只需一个模型和数据集即可开始使用。
在底层,Trainer 负责将数据集进行批处理、打乱和填充,并转换为张量。训练循环会执行前向传播、计算损失、反向传播梯度并更新权重。通过配置 TrainingArguments,您可以自定义从批大小、训练时长到分布式策略、编译等所有训练参数。
后续步骤
- 从微调教程开始,了解如何使用Trainer训练大型语言模型。
- 请参阅 子类化 Trainer 方法 指南,了解如何对 Trainer 方法进行子类化的示例。
- 请参阅 数据整理器 指南,了解如何创建用于自定义批次组装的数据整理器。
- 请参阅 Callbacks 指南,了解如何挂钩训练事件。