Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
parquet
Languages:
Chinese
Size:
10M - 100M
License:
Update README.md
Browse files
README.md
CHANGED
@@ -116,7 +116,7 @@ Usage of the Chinese Fineweb Edu dataset requires adherence to the OpenCSG Commu
|
|
116 |
|
117 |
在数据筛选过程中,Chinese Fineweb Edu 数据集采用了与 Fineweb-Edu 类似的筛选策略,重点关注数据的教育价值和内容质量。具体筛选步骤如下:
|
118 |
|
119 |
-
1. **教育价值评估**:首先使用
|
120 |
|
121 |
2. **打分模型训练**:利用这100k条样本数据训练了一个BERT模型,用于对更大规模的预训练数据集进行文本打分。这一步确保了模型能够有效地识别出具有高教育价值的内容。
|
122 |
|
|
|
116 |
|
117 |
在数据筛选过程中,Chinese Fineweb Edu 数据集采用了与 Fineweb-Edu 类似的筛选策略,重点关注数据的教育价值和内容质量。具体筛选步骤如下:
|
118 |
|
119 |
+
1. **教育价值评估**:首先使用Opencsg的csg-wukong-enterprise企业版大模型对样本的教育价值进行评估,模型会根据样本内容的相关性和质量给出0-5的评分。在初步筛选阶段,我们选取了约100k条评分较高的数据。
|
120 |
|
121 |
2. **打分模型训练**:利用这100k条样本数据训练了一个BERT模型,用于对更大规模的预训练数据集进行文本打分。这一步确保了模型能够有效地识别出具有高教育价值的内容。
|
122 |
|