Datasets:
Upload README_zh.md with huggingface_hub
Browse files- README_zh.md +21 -21
README_zh.md
CHANGED
@@ -6,46 +6,46 @@ task_categories:
|
|
6 |
|
7 |
# 𝑩𝑰𝑮 𝑵𝑬𝑾𝑺‼️
|
8 |
|
9 |
-
📮 [2𝟎2𝟒-𝟎2]
|
10 |
|
11 |
-
>
|
12 |
|
13 |
# Dataset Description
|
14 |
-
> [中文版本](./README_zh.md)
|
15 |
|
16 |
-
|
17 |
|
18 |
-
|
|
|
19 |
|
20 |
-
|
21 |
* amsmath
|
22 |
* amsfonts
|
23 |
* amssymb
|
24 |
* mathtools
|
25 |
|
26 |
-
##
|
27 |
-
|
28 |
|
29 |
```python
|
30 |
from datasets import load_dataset
|
31 |
data = load_dataset("OleehyO/latex-formulas", "raw_formulas")
|
32 |
```
|
33 |
|
34 |
-
|
35 |
```python
|
36 |
from datasets import load_dataset
|
37 |
data = load_dataset("OleehyO/latex-formulas", "cleaned_formulas")
|
38 |
```
|
39 |
|
40 |
-
##
|
41 |
-
|
42 |
* equation
|
43 |
* align
|
44 |
* align*
|
45 |
* gather
|
46 |
* gather*
|
47 |
|
48 |
-
|
49 |
* \label
|
50 |
* %
|
51 |
* \quad
|
@@ -66,18 +66,18 @@ The formulas do not include the following content:
|
|
66 |
* \textheight
|
67 |
* \rule
|
68 |
|
69 |
-
##
|
70 |
-
###
|
71 |
-
*
|
72 |
-
*
|
73 |
-
*
|
74 |
-
*
|
75 |
-
*
|
76 |
* \tag
|
77 |
* \text
|
78 |
* \begin{split}
|
79 |
* \end{split}
|
80 |
* \nonumber
|
81 |
* \notag
|
82 |
-
*
|
83 |
-
*
|
|
|
6 |
|
7 |
# 𝑩𝑰𝑮 𝑵𝑬𝑾𝑺‼️
|
8 |
|
9 |
+
📮 [2𝟎2𝟒-𝟎2] 我们使用latex-formulas数据集训练了一个公式识别模型[𝐓𝐞𝐱𝐓𝐞𝐥𝐥𝐞𝐫](https://github.com/OleehyO/TexTeller?tab=readme-ov-file),它可以将latex公式转换为图片,并且有着**很高的准确率**以及**很强的泛化能力**,可以**覆盖大部分公式识别场景**。
|
10 |
|
11 |
+
> 详情信息请参阅[𝐓𝐞𝐱𝐓𝐞𝐥𝐥𝐞𝐫的github仓库](https://github.com/OleehyO/TexTeller?tab=readme-ov-file)
|
12 |
|
13 |
# Dataset Description
|
|
|
14 |
|
15 |
+
这里有两个数据集:**raw_formulas**和**cleaned_formulas**(这个数据集有*550K*个公式-图片对)。
|
16 |
|
17 |
+
我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。
|
18 |
+
在将*raw_formulas*数据集进行**清洗**并加入[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)数据集后得到了*cleaned_formulas*数据集(一个具有*550K*公式-图片对的数据集)。
|
19 |
|
20 |
+
渲染公式对应的图片时,需要用到以下外部包:
|
21 |
* amsmath
|
22 |
* amsfonts
|
23 |
* amssymb
|
24 |
* mathtools
|
25 |
|
26 |
+
## 用法
|
27 |
+
加载 **raw_formulas** 数据集:
|
28 |
|
29 |
```python
|
30 |
from datasets import load_dataset
|
31 |
data = load_dataset("OleehyO/latex-formulas", "raw_formulas")
|
32 |
```
|
33 |
|
34 |
+
加载 **cleaned_formulas** 数据集:
|
35 |
```python
|
36 |
from datasets import load_dataset
|
37 |
data = load_dataset("OleehyO/latex-formulas", "cleaned_formulas")
|
38 |
```
|
39 |
|
40 |
+
## 有关*raw_formulas*数据集的一些细节
|
41 |
+
我们爬取了包含以下公式环境的latex公式:
|
42 |
* equation
|
43 |
* align
|
44 |
* align*
|
45 |
* gather
|
46 |
* gather*
|
47 |
|
48 |
+
公式中不存在以下内容:
|
49 |
* \label
|
50 |
* %
|
51 |
* \quad
|
|
|
66 |
* \textheight
|
67 |
* \rule
|
68 |
|
69 |
+
## *cleaned_formulas*数据集的一些预处理细节
|
70 |
+
### 清洗
|
71 |
+
* 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中一些无用的垃圾数据
|
72 |
+
* 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中过于复杂的公式:
|
73 |
+
* 公式对应的渲染图片高宽比如果大于0.8,那么公式会被删除
|
74 |
+
* 字符长度大于200的公式被删除了
|
75 |
+
* 在*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)的公式中,以下内容被删除了:
|
76 |
* \tag
|
77 |
* \text
|
78 |
* \begin{split}
|
79 |
* \end{split}
|
80 |
* \nonumber
|
81 |
* \notag
|
82 |
+
* *raw_formulas*和中的`equation、equation*、align、\[...\]`公式环境均被替换成了`align*`公式环境
|
83 |
+
* 我们删除了*raw_formulas*中包含自定义宏的公式。
|