Datasets:
BAAI
/

Modalities:
Text
Formats:
parquet
Languages:
Chinese
ArXiv:
Libraries:
Datasets
Dask
License:

希望可以重新做一下数据清洗

#12
by paralym - opened

发现了一些错误,包括但不限于:指令存在错别字,格式混乱,答案错误,"input"和"output"颠倒

感谢建议,我们这边正在推进数据清洗的工作。我们于Aug. 30进行了一版v1.2的版本更新清洗了一部分,我们此外也在推进全量的数据复查与更新。此外,向您推荐我们采样出的一个更干净更具代表性的子集:https://huggingface.co/datasets/BAAI/COIG-PC-core
如果想直接进行全量的指令微调的话,建议参考FLAN/SNI的方式使用该COIG-PC-core子集。并且期待我们对COIG-PC的数据清洗后的进一步更新。

感谢建议,我们这边正在推进数据清洗的工作。我们于Aug. 30进行了一版v1.2的版本更新清洗了一部分,我们此外也在推进全量的数据复查与更新。此外,向您推荐我们采样出的一个更干净更具代表性的子集:https://huggingface.co/datasets/BAAI/COIG-PC-core
如果想直接进行全量的指令微调的话,建议参考FLAN/SNI的方式使用该COIG-PC-core子集。并且期待我们对COIG-PC的数据清洗后的进一步更新。

我对coig-pc-lite 9.15左右的版本(除小语种任务之外)指令做了分类,按回复的指令遵循质量和人类偏好程度,粗略分成了答案保留,重新回答,修改指令,参考答案重新生成这四类,本来想继续重构下去,但发现工作量太大了。如果需要这份分类数据可以联系我

感谢建议,我们这边正在推进数据清洗的工作。我们于Aug. 30进行了一版v1.2的版本更新清洗了一部分,我们此外也在推进全量的数据复查与更新。此外,向您推荐我们采样出的一个更干净更具代表性的子集:https://huggingface.co/datasets/BAAI/COIG-PC-core
如果想直接进行全量的指令微调的话,建议参考FLAN/SNI的方式使用该COIG-PC-core子集。并且期待我们对COIG-PC的数据清洗后的进一步更新。

我对coig-pc-lite 9.15左右的版本(除小语种任务之外)指令做了分类,按回复的指令遵循质量和人类偏好程度,粗略分成了答案保留,重新回答,修改指令,参考答案重新生成这四类,本来想继续重构下去,但发现工作量太大了。如果需要这份分类数据可以联系我

hello,我们这边已经进行了一遍任务层面的人工筛查,但是您这边做的这个工作可能也有帮助,不知道您的联系方式是什么,欢迎直接发邮件给[email protected],我们可以跟进下。

感谢建议,我们这边正在推进数据清洗的工作。我们于Aug. 30进行了一版v1.2的版本更新清洗了一部分,我们此外也在推进全量的数据复查与更新。此外,向您推荐我们采样出的一个更干净更具代表性的子集:https://huggingface.co/datasets/BAAI/COIG-PC-core
如果想直接进行全量的指令微调的话,建议参考FLAN/SNI的方式使用该COIG-PC-core子集。并且期待我们对COIG-PC的数据清洗后的进一步更新。

我对coig-pc-lite 9.15左右的版本(除小语种任务之外)指令做了分类,按回复的指令遵循质量和人类偏好程度,粗略分成了答案保留,重新回答,修改指令,参考答案重新生成这四类,本来想继续重构下去,但发现工作量太大了。如果需要这份分类数据可以联系我

hello,我们这边已经进行了一遍任务层面的人工筛查,但是您这边做的这个工作可能也有帮助,不知道您的联系方式是什么,欢迎直接发邮件给[email protected],我们可以跟进下。

晚一点我整理一下邮箱联系您,一部分工作判断的比较主观,但也希望能有帮助

Sign up or log in to comment