task_categories:text-generation task_categories:fill-mask language:ja region:us
---
task_categories:
- text-generation
- fill-mask
language:
- ja
---
# range3/wiki40b-ja

This dataset consists of three parquet files from the wiki40b dataset with only Japanese data extracted. It is generated by the following python code.

このデータセットは、wiki40bデータセットの日本語データのみを抽出した3つのparquetファイルで構成されます。以下のpythonコードによって生成しています。

```py
import datasets

dss = datasets.load_dataset(
    "wiki40b",
    "ja",
    beam_runner="DirectRunner",
)

for split,ds in dss.items():
    ds.to_parquet(f"wikipedia-ja-20230101/{split}.parquet")
```