Update README.md

README.md

@@ -7,9 +7,9 @@ task_categories:
 # Dataset Description
 > English version is [here](./README_English.md)
 
-这里有两个数据集：*raw_formulas*和*tokenized_formulas*。
+这里有两个数据集：*raw_formulas*和*cleaned_formulas*。
 
-我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。在将*raw_formulas*数据集进行**清洗**以及**文本分词**后得到了*tokenized_formulas*数据集。
+我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。在将*raw_formulas*数据集进行**清洗**并加入**(im2latex-100K)[https://zenodo.org/records/56198#.V2px0jXT6eA]**后得到了*cleaned_formulas*数据集。
 
 渲染公式对应的图片时，需要用到以下外部包：
 * amsmath
@@ -46,7 +46,7 @@ task_categories:
   * \textheight
   * \rule
 
-## *tokenized_formulas*数据集的一些预处理细节
+## *cleaned_formulas*数据集的一些预处理细节
 ### 清洗
 * 我们删除了*raw_formulas*中一些无用的垃圾数据
 * 我们删除了*raw_formulas*中过于复杂的公式：
@@ -59,43 +59,5 @@ task_categories:
   * \end{split}
   * \nonumber
   * \notag
-* *raw_formulas*中的`equation、equation*、align、\[...\]`公式环境被替换成了`align*`公式环境，`gather`公式环境被替换成了`gather*`环境
-* 我们删除了*raw_formulas*中包含自定义宏的公式，**只有以下的常见自定义宏被保留了**:
-  * \newcommand{\R}{\mathbb{R}}
-  * \newcommand{\N}{\mathbb{N}}
-  * \newcommand{\Z}{\mathbb{Z}}
-  * \newcommand{\Q}{\mathbb{Q}}
-  * \newcommand{\C}{\mathbb{C}}
-  * \newcommand{\avg}[1]{\left<#1\right>}
-  * \newcommand{\Deriv}[2]{\frac{\mathrm{d} #1}{\mathrm{d} #2}}
-  * \newcommand{\dd}{\mathrm{d}}
-  * \newcommand{\norm}[1]{\left\lVert#1\right\rVert}
-  * \newcommand{\abs}[1]{\left|#1\right|}
-  * \newcommand{\vect}[1]{\mathbf{#1}}
-### 分词
-符合以下pattern的子串被视为一个词：
-* \begin{.*?}
-* \end\{.*?}
-* \\[A-Za-z]+
-
-以下字符串也被视为一个词：
-* \\[
-* \\]
-* \\\
-* \\{
-* \\}
-* \\_
-* \\$
-* \\&
-* \\#
-* \\%
-* \\|
-* '
-* ''
-* '''
-* ''''
-* '\^
-* ''\^
-* '''\^
-* ''''\^
-
+* *raw_formulas*中的`equation、equation*、align、\[...\]`公式环境均被替换成了`align*`公式环境
+* 我们删除了*raw_formulas*中包含自定义宏的公式。