README.md

---
configs:
  - config_name: all
    data_files:
    - split: train
      path:
        - data/ArXiv/train/*.parquet
        - data/BookCorpus2/train/*.parquet
        - data/Books3/train/*.arrow
        - data/DM Mathematics/train/*.parquet
        - data/Enron Emails/train/*.parquet
        - data/EuroParl/train/*.parquet
        - data/FreeLaw/train/*.parquet
        - data/Github/train/*.parquet
        - data/Gutenberg (PG-19)/train/*.parquet
        - data/HackerNews/train/*.parquet
        - data/NIH ExPorter/train/*.parquet
        - data/OpenSubtitles/train/*.parquet
        - data/OpenWebText2/train/*.parquet
        - data/PhilPapers/train/*.parquet
        - data/Pile-CC/train/*.parquet
        - data/PubMed Abstracts/train/*.parquet
        - data/PubMed Central/train/*.parquet
        - data/StackExchange/train/*.parquet
        - data/UPSTO Backgrounds/train/*.parquet
        - data/Ubuntu IRC/train/*.parquet
        - data/Wikipedia (en)/train/*.parquet
        - data/YoutubeSubtitles/train/*.parquet
      default : true
---