Datasets:
BAAI
/

Modalities:
Text
Formats:
parquet
Languages:
Chinese
ArXiv:
Libraries:
Datasets
Dask
License:

数据下载

#10
by katelina - opened

有没有一种稳定的方式下载全部的数据呢?snapshot_download下了几个文件就会断。我也尝试了git lfs clone [email protected]:BAAI/COIG-PC, 但是提示我无法找到仓库。

同问,怎么批量下载

https://github.com/liwenju0/COIG-PC-Downloader
可以使用我这个脚本,欢迎给个 star

https://github.com/liwenju0/COIG-PC-Downloader
可以使用我这个脚本,欢迎给个 star

downloader.sh: line 32: syntax error: unexpected end of file
试了一下,会报这个错

from huggingface_hub import login
from datasets import load_dataset

login(token="你账户的token")

加载数据集

dataset = load_dataset("BAAI/COIG-PC", split='train') # 你可以指定 'train', 'test', 'validation' 或 'all'

如果你想要保存数据集到本地

注意:这可能会占用大量磁盘空间,特别是当数据集很大时

dataset.save_to_disk('G:\数据集\COIG\train')

如果数据集非常大,并且你想要分块下载或处理,你可以使用 stream 功能(仅用于加载,不直接下载到文件)

但注意,stream 功能不直接支持保存到磁盘,它主要用于流式处理数据

dataset_stream = load_dataset("BAAI/COIG-PC", split='train', streaming=True)

对于流式处理,你可以使用迭代器来遍历数据

for example in dataset_stream['train']:

print(example)

Sign up or log in to comment