Symato/NAM-005_436G_Vi-En-Code

100b tokens Việt, Anh, Code để tiếp tục pre-train LLMs

Được trộn đều và chia làm 100 phần.

Giải nén xz -d *.lzma

Phân bố dữ liệu:

 75.4G    100_book
 34.8G    100_code
 66.7G    100_slimpajama
- - - - - - - - - - - -
176.8G    English (40%)

118.9G    100_c4-vi
 11.3G    100_news_2020-2021
 15.1G    100_news_2022-2023
  2.6G    100_others
  2.0G    500_wiki
 20.3G    600_laws
 78.3G    800_epub
 11.3G    999_gov
- - - - - - - - - - 
259.8G    Vietnamese (60%)
    
Total 436.6GB, 100b tokens (Bloom tokenizer)

Theo thể loại:
 43%  187.6G   slimpajama, c4_vi, wiki
 35%  153.7G   book, epub
  8%   34.7G   code
  6%   26.4G   news
  5%   20.3G   laws
  3%   11.4G   gov