File size: 5,488 Bytes
0a49b16 796461c 0a49b16 456b2a6 0a49b16 df7d875 0a49b16 fb08d4f 0a49b16 c4be049 0a49b16 fb08d4f c4be049 33413dd fb08d4f 0a49b16 456b2a6 0a49b16 fb08d4f 0a49b16 456b2a6 0a49b16 456b2a6 0a49b16 456b2a6 0a49b16 456b2a6 0a49b16 df7d875 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 |
---
license: other
task_categories:
- translation
language:
- en
- ja
pretty_name: en-ja-align
size_categories:
- 10K<n<100K
viewer: false
---
# en-ja-align
[日英対訳文対応付けデータ](https://www2.nict.go.jp/astrec-att/member/mutiyama/align/)(内山ら, 2003)として公開されている日英対訳文データセットです。
本リポジトリはデータセットのダウンロード・解析・前処理のみを行うスクリプトを提供しているものであり、データの再配布はしておりません。
## Usage
データセットの前処理に下記のライブラリを使用します。
データの使用前にインストールをお願いいたします。
```bash
pip install bs4 lxml
```
使用例は以下のとおりです。
```python
import datasets as ds
dataset = ds.load_dataset("hpprc/en-ja-align", num_proc=16, trust_remote_code=True)
print(dataset)
# DatasetDict({
# train: Dataset({
# features: ['id', 'en', 'ja', 'source'],
# num_rows: 42738
# })
# })
print(dataset["train"][1])
# {
# 'id': 'abolition-0/1',
# 'en': 'Work is the source of nearly all the misery in the world.',
# 'ja': '労働こそが、この世のほとんど全ての不幸の源泉なのである。',
# 'source': 'abolition-0.htm',
# }
print(dataset["train"][-1])
# {
# 'id': 'yellow-6/23',
# 'en': '"Watson," said he, "if it should ever strike you that I am getting a
# little overconfident in my powers, or giving less pains to a case than
# it deserves, kindly whisper `Norbury\' in my ear, and I shall be infinitely obliged to you."',
# 'ja': '「ワトソン君」と、彼は寝室にいってからこう云った。「これからもし私が、余り自分の力に頼りすぎていると、
# 君が気づいた時は、そしてまた、事件を余り考えないで扱おうとしているような様子が目についたら、どうか遠慮なく、
# 私の耳へ「ノーブリー」とささやいてくれたまえ。そうすれば、僕は君に永久に恩をきるよ......」',
# 'source': 'yellow-6.htm',
# }
```
## Preprocess
[ホームページ](https://www2.nict.go.jp/astrec-att/member/mutiyama/align/)にて公開されているテキストデータは形態素解析器ChaSenで前処理されており、生文を取得するのが難しかったため、HTM (HTML)ファイルを直接解析することで対訳文を取得しています。
前処理では、NFKC正規化や、クオーテーションの正規化を行なっています。
また、生データ中の複数文に分かれてしまっていた文を結合する処理を行なっています。その際に、会話文などはカギカッコ(「」)で文が別れないようにしました。
前処理の改善案がある方はPull RequestやCommunity Discussionを遠慮なく利用していただければと思います。
## License
[日英対訳文対応付けデータ](https://www2.nict.go.jp/astrec-att/member/mutiyama/align/)には、一部再配布が禁じられているデータセットが存在します。
また、ライセンス関連の記述として以下のような記載があります。
> オリジナルの各作品の著作権は，それぞれの作品の著作権に従います．
> その他のものについては Creative Commons Attribution-ShareAlike 3.0 Unported に従い，それらの著作権は情報通信研究機構多言語翻訳研究室が保持します．
> なお，オリジナルの作品が二次配布を禁止している場合には，そこからの派生物（対訳データなど）も二次配布することを禁止します．
> また，オリジナルの作品が営利目的の利用を禁止している場合には，派生物の営利目的の利用も禁止します．
しかし、すべてのデータについてライセンスを確認するには多少手間がかかります。
そこで本リポジトリでは、ライセンスの問題を可能な限り回避するため、[ダウンロードページ](https://www2.nict.go.jp/astrec-att/member/mutiyama/align/download/index.html)のデータを前処理するスクリプトを提供し、データの再配布をしないという選択をしています。
具体的な処理内容は本リポジトリの[hpprc/en-ja-align/blob/main/en-ja-align.py](https://huggingface.co/datasets/hpprc/en-ja-align/blob/main/en-ja-align.py)に記載されているので、よろしければご覧ください。
## Citation
本リポジトリのデータセットを参考文献等に引用する際には、[日英対訳文対応付けデータ](https://www2.nict.go.jp/astrec-att/member/mutiyama/align/)の節「引用について」に基づき、以下のいずれかの記述による引用をしていただくようお願いいたします。
```
内山将夫，高橋真弓．(2003) 日英対訳文対応付けデータ．
Masao Utiyama and Mayumi Takahashi. (2003) English-Japanese Translation Alignment Data.
```
## Acknowledgement
データセットを作成・公開いただいた内山将夫様、高橋真弓様、そのほかデータの構築に携わった全ての方々に感謝申し上げます。
また、本リポジトリの実装・記述に対してコメントをくださった[ryota39](https://huggingface.co/ryota39)様に感謝申し上げます。
|