TFMC commited on
Commit
3ed4554
1 Parent(s): aefc5b8

Update README.md

Browse files

# iMatrix-Dataset-for-Japanese-LLM

llama.cppのGGUF量子化におけるImprtance Matrix計算で使うためのテキストデータです。
Webクロールコーパスのc4データセット(<a href="https://huggingface.co/datasets/allenai/c4">allenai/c4</a>)から抽出した英語・日本語の雑多なウェブテキストで構成されており、低bit量子化での日本語性能低下を抑制する効果が期待できます(<a href="[URL](https://sc-bakushu.hatenablog.com/entry/2024/04/20/050213)">ブログ投稿</a>)。
![graph.png](https://cdn-uploads.huggingface.co/production/uploads/64546f97afea4a7004a186a4/ikNcwjM4-zSTn56wRqMCo.png)

## C4
Based on Common Crawl dataset: https://commoncrawl.org
license: <a href="https://opendatacommons.org/licenses/by/1-0">ODC-BY</a>, <a href="https://commoncrawl.org/terms-of-use">Common Crawl terms of use</a>

Files changed (1) hide show
  1. README.md +8 -1
README.md CHANGED
@@ -1,3 +1,10 @@
1
  ---
2
  license: odc-by
3
- ---
 
 
 
 
 
 
 
 
1
  ---
2
  license: odc-by
3
+ task_categories:
4
+ - text-generation
5
+ language:
6
+ - ja
7
+ - en
8
+ size_categories:
9
+ - n<1K
10
+ ---