Merge branch 'main' of https://huggingface.co/datasets/hpprc/en-ja-align into main

README.md

@@ -30,7 +30,7 @@ print(dataset)
 # DatasetDict({
 #     train: Dataset({
 #         features: ['id', 'en', 'ja', 'source'],
-#         num_rows: 46944
+#         num_rows: 42738
 #     })
 # })
 
@@ -41,6 +41,18 @@ print(dataset["train"][1])
 #     'ja': '労働こそが、この世のほとんど全ての不幸の源泉なのである。',
 #     'source': 'abolition-0.htm',
 # }
+
+print(dataset["train"][-1])
+# {
+#     'id': 2578,
+#     'en': '"Watson," said he, "if it should ever strike you that I am getting a 
+#             little overconfident in my powers, or giving less pains to a case than
+#             it deserves, kindly whisper `Norbury\' in my ear, and I shall be infinitely obliged to you."',
+#     'ja': '「ワトソン君」と、彼は寝室にいってからこう云った。「これからもし私が、余り自分の力に頼りすぎていると、
+#             君が気づいた時は、そしてまた、事件を余り考えないで扱おうとしているような様子が目についたら、どうか遠慮なく、
+#             私の耳へ「ノーブリー」とささやいてくれたまえ。そうすれば、僕は君に永久に恩をきるよ......」',
+#     'source': 'yellow-6.htm',
+# }
 ```
 
 
@@ -49,6 +61,9 @@ print(dataset["train"][1])
 
 [ホームページ](https://www2.nict.go.jp/astrec-att/member/mutiyama/align/)にて公開されているテキストデータは形態素解析器ChaSenで前処理されており、生文を取得するのが難しかったため、HTM (HTML)ファイルを直接解析することで対訳文を取得しています。
 
+前処理では、NFKC正規化や、クオーテーションの正規化を行なっています。
+また、生データ中の複数文に分かれてしまっていた文を結合する処理を行なっています。その際に、会話文などはカギカッコ(「」)で文が別れないようにしました。
+
 前処理の改善案がある方はPull RequestやCommunity Discussionを遠慮なく利用していただければと思います。