HaloMaster's picture
add fengshen
50f0fbb
|
raw
history blame
1.15 kB

分类下游任务

在当前目录下,我们提供丰富的分类任务的示例,其中我们提供三个一键式运行的示例。

  • demo_classification_afqmc_roberta.sh 使用DDP微调roberta
  • demo_classification_afqmc_roberta_deepspeed.sh 结合deepspeed微调roberta,获得更快的运算速度
  • demo_classification_afqmc_erlangshen_offload.sh 仅需7G显存即可微调我们效果最好的二郎神系列模型

上述示例均采用AFQMC的数据集,关于数据集的介绍可以在这里找到。 同时我们处理过的数据文件已经放在Huggingface上,点击这里直达源文件。 仅需要按我们的格式稍微处理一下数据集,即可适配下游不同的分类任务。 在脚本示例中,仅需要修改如下参数即可适配本地文件

        --dataset_name IDEA-CCNL/AFQMC \

-------> 修改为

        --data_dir $DATA_DIR \          # 数据目录
        --train_data train.json \       # 数据文件
        --valid_data dev.json \
        --test_data test.json \