Datasets:
metadata
license: openrail
task_categories:
- image-to-text
大新闻‼️
📮 [2024-02] 我们使用latex-formulas数据集训练了一个公式识别模型TexTeller，它可以将latex公式转换为图片，并且有着很高的准确率以及很强的泛化能力，可以覆盖大部分公式识别场景。
详情信息请参阅TexTeller的github仓库
Dataset Description
这里有两个数据集：raw_formulas和cleaned_formulas(这个数据集有550K个公式-图片对)。
我们在arxiv上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了raw_formulas数据集。 在将raw_formulas数据集进行清洗并加入im2latex-100K数据集后得到了cleaned_formulas数据集（一个具有550K公式-图片对的数据集）。
渲染公式对应的图片时，需要用到以下外部包：
- amsmath
- amsfonts
- amssymb
- mathtools
用法
加载 raw_formulas 数据集:
from datasets import load_dataset
data = load_dataset("OleehyO/latex-formulas", "raw_formulas")
加载 cleaned_formulas 数据集:
from datasets import load_dataset
data = load_dataset("OleehyO/latex-formulas", "cleaned_formulas")
有关raw_formulas数据集的一些细节
我们爬取了包含以下公式环境的latex公式:
- equation
- align
- align*
- gather
- gather*
公式中不存在以下内容：
- \label
- %
- \quad
- \qquad
- \vspace
- \hspace
- \resizebox
- \scalebox
- \rotatebox
- \parbox
- \fbox
- \makebox
- \raisebox
- \addvspace
- \hfill
- \vfill
- \textwidth
- \textheight
- \rule
cleaned_formulas数据集的一些预处理细节
清洗
- 我们删除了raw_formulas和im2latex-100K中一些无用的垃圾数据
- 我们删除了raw_formulas和im2latex-100K中过于复杂的公式：
- 公式对应的渲染图片高宽比如果大于0.8，那么公式会被删除
- 字符长度大于200的公式被删除了
- 在raw_formulas和im2latex-100K的公式中，以下内容被删除了：
- \tag
- \text
- \begin{split}
- \end{split}
- \nonumber
- \notag
- raw_formulas和中的
equation、equation*、align、\[...\]公式环境均被替换成了align*公式环境 - 我们删除了raw_formulas中包含自定义宏的公式。