--- license: mit task_categories: - text-classification - summarization tags: - finance size_categories: - n<1K language: - zh --- # 基于CCF23-EVAL任务6的电信网络诈骗案件数据集合成了风险短信与对话数据集，并基于多样性、任务相关性和是否满足人类偏好进行筛选，可用于风险细粒度分类任务和风险摘要生成任务测评。 ### 短信生成数据集筛选前后的评价结果比较 | 数据集 | 数据评估指标 | 案例生成方式 | 属性提示生成方式 | 案例生成方式 | 属性提示生成方式 | |------------|----------------------|--------------|------------------|--------------|------------------| | | 余弦相似度↓ | | | | | | 所有类别 | | 0.7149 | **0.6943** | 0.7041 | **0.6704** | | 冒充电商物流客服类 | | 0.7542 | **0.6981** | 0.7606 | **0.7331** | | 虚假网络投资理财类 | | 0.7967 | **0.7120** | 0.8029 | **0.7108** | | 虚假信用服务类 | | 0.7840 | **0.7050** | 0.7738 | **0.7010** | | 虚假购物、服务类 | | 0.7088 | **0.6931** | 0.6879 | **0.6672** | | 冒充公检法及政府机关类 | | 0.7979 | **0.7088** | 0.7835 | **0.6935** | | 冒充领导、熟人类 | | 0.7765 | **0.7063** | 0.7540 | **0.7132** | | 网络婚恋、交友类 | | 0.7469 | **0.6972** | 0.7904 | **0.7383** | | 冒充军警购物类诈骗 | | 0.8091 | **0.6913** | **0.7877** | 0.7942 | | 网黑案件 | | 0.8019 | **0.6989** | 0.8847 | **0.7993** | | 无风险 | | 0.7231 | **0.6965** | 0.7029 | **0.6758** | | | 欧氏距离↑ | | | | | | 所有类别 | | 0.6968 | **0.7184** | 0.7063 | **0.7413** | | 冒充电商物流客服类 | | 0.6544 | **0.7148** | 0.7251 | **0.7445** | | 虚假网络投资理财类 | | 0.5992 | **0.7004** | 0.6191 | **0.7195** | | 虚假信用服务类 | | 0.6186 | **0.7077** | 0.6549 | **0.6986** | | 虚假购物、服务类 | | 0.7037 | **0.7196** | 0.6050 | **0.6736** | | 冒充公检法及政府机关类 | | 0.5961 | **0.7034** | **0.6136** | 0.6041 | | 冒充领导、熟人类 | | 0.6251 | **0.7061** | 0.4655 | **0.6005** | | 网络婚恋、交友类 | | 0.6617 | **0.7157** | 0.7099 | **0.7365** | | 冒充军警购物类诈骗 | | 0.5812 | **0.7214** | 0.6439 | **0.6773** | | 网黑案件 | | 0.5912 | **0.7139** | 0.5921 | **0.7023** | | 无风险 | | 0.6875 | **0.7161** | 0.6317 | **0.7112** | | | 任务相关性↑ | **0.5665** | 0.5159 | **0.7775** | 0.7245 | | | 人类偏好评分↑ | **1.5534** | 0.8722 | **1.9457** | 1.5478 | --- ### 对话生成数据集筛选前后的评价结果比较 | 数据集 | 数据评估指标 | 案例生成方式 | 属性提示生成方式 | 案例生成方式 | 属性提示生成方式 | |------------|----------------------|--------------|------------------|--------------|------------------| | | 余弦相似度↓ | | | | | | 所有类别 | | 0.7910 | **0.7592** | 0.7456 | **0.7049** | | 冒充电商物流客服类 | | 0.8172 | **0.7854** | 0.7966 | **0.7583** | | 虚假网络投资理财类 | | 0.8452 | **0.8034** | 0.8134 | **0.7487** | | 虚假信用服务类 | | 0.8452 | **0.8074** | 0.8099 | **0.7799** | | 虚假购物、服务类 | | 0.7893 | **0.7618** | 0.7564 | **0.7238** | | 冒充公检法及政府机关类 | | 0.8678 | **0.7966** | 0.8261 | **0.7515** | | 冒充领导、熟人类 | | 0.8562 | **0.7744** | 0.7645 | **0.7525** | | 网络婚恋、交友类 | | 0.8225 | **0.8260** | 0.7660 | **0.7912** | | 冒充军警购物类诈骗 | | 0.8815 | **0.8594** | 0.8560 | **0.7843** | | 网黑案件 | | 0.8745 | **0.8047** | 0.8224 | **0.7756** | | 无风险 | | 0.7887 | **0.7672** | 0.7382 | **0.7115** | | | 欧氏距离↑ | | | | | | 所有类别 | | 0.6093 | **0.6486** | 0.6651 | **0.7085** | | 冒充电商物流客服类 | | 0.5741 | **0.6161** | 0.6018 | **0.6507** | | 虚假网络投资理财类 | | 0.5306 | **0.5913** | 0.5799 | **0.6622** | | 虚假信用服务类 | | 0.5316 | **0.5849** | 0.5851 | **0.6241** | | 虚假购物、服务类 | | 0.6119 | **0.6455** | 0.6532 | **0.6886** | | 冒充公检法及政府机关类 | | 0.4893 | **0.6015** | 0.5618 | **0.6587** | | 冒充领导、熟人类 | | 0.5098 | **0.6298** | 0.6416 | **0.6577** | | 网络婚恋、交友类 | | **0.5652** | 0.5598 | **0.6416** | 0.6099 | | 冒充军警购物类诈骗 | | 0.4664 | **0.5061** | 0.5140 | **0.6183** | | 网黑案件 | | 0.4776 | **0.5910** | 0.5653 | **0.5938** | | 无风险 | | 0.6122 | **0.6387** | 0.6737 | **0.7021** | | | 任务相关性↑ | **0.5860** | 0.5577 | **0.7704** | 0.7498 | | | 人类偏好评分↑ | 1.1921 | **1.5272** | 1.7836 | **1.9586** |