Datasets:
traintogpb
commited on
Commit
•
eb15b41
1
Parent(s):
9102aec
chore: fix readme
Browse files
README.md
CHANGED
@@ -16,7 +16,7 @@ AI Hub의 한-영 번역 관련 데이터셋 8개를 병합한 자료입니다.
|
|
16 |
- mini-1m: 병합 데이터 10% 사용 (base-10m의 각 세트 내에서 10% 임의 선택), 총 1,041,651개
|
17 |
- tiny-100k: 병합 데이터 1% 사용 (base-10m의 각 세트 내에서 1% 임의 선택), 총 104,165개
|
18 |
|
19 |
-
|
20 |
|
21 |
활용한 데이터셋 목록은 다음과 같으며, 데이터셋 이름 옆 번호는 aihubshell에서의 datasetkey입니다.
|
22 |
|
@@ -26,22 +26,29 @@ AI Hub의 한-영 번역 관련 데이터셋 8개를 병합한 자료입니다.
|
|
26 |
- 사용 칼럼: '한국어', '영어'
|
27 |
- [한국어-영어 번역 말뭉치(기술과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=124) (124)
|
28 |
- 총 개수: 1,344,631
|
|
|
29 |
- 사용 칼럼: 'ko', 'en'
|
30 |
- [한국어-영어 번역 말뭉치(사회과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=125) (125)
|
31 |
- 총 개수: 1,361,845
|
|
|
32 |
- 사용 칼럼: 'ko', 'en'
|
33 |
- [한국어-영어 번역(병렬) 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=126) (126)
|
34 |
- 총 개수: 1,602,418
|
|
|
35 |
- 사용 칼럼: '원문', '번역문'
|
36 |
- [산업정보 연계 주요국 특허 영-한 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=563) (563)
|
37 |
- 총 개수: 359,999
|
|
|
38 |
- 사용 칼럼: 'astrt_cont_kor', 'astrt_cont_eng'
|
39 |
- [일상생활 및 구어체 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71265) (71265)
|
40 |
- 총 개수: 2,700,345
|
|
|
41 |
- 사용 칼럼: 'ko', 'en'
|
42 |
- [기술과학 분야 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71266) (71266)
|
43 |
- 총 개수: 1,350,162
|
|
|
44 |
- 사용 칼럼: 'ko', 'en'
|
45 |
- [방송콘텐츠 한국어-영어 번역 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71382) (71382)
|
46 |
- 총 개수: 587,084
|
|
|
47 |
- 사용 칼럼: '원문', '최종번역문'
|
|
|
16 |
- mini-1m: 병합 데이터 10% 사용 (base-10m의 각 세트 내에서 10% 임의 선택), 총 1,041,651개
|
17 |
- tiny-100k: 병합 데이터 1% 사용 (base-10m의 각 세트 내에서 1% 임의 선택), 총 104,165개
|
18 |
|
19 |
+
## Subsets
|
20 |
|
21 |
활용한 데이터셋 목록은 다음과 같으며, 데이터셋 이름 옆 번호는 aihubshell에서의 datasetkey입니다.
|
22 |
|
|
|
26 |
- 사용 칼럼: '한국어', '영어'
|
27 |
- [한국어-영어 번역 말뭉치(기술과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=124) (124)
|
28 |
- 총 개수: 1,344,631
|
29 |
+
- 중복 제거 후 개수: 1,344,631
|
30 |
- 사용 칼럼: 'ko', 'en'
|
31 |
- [한국어-영어 번역 말뭉치(사회과학)](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=125) (125)
|
32 |
- 총 개수: 1,361,845
|
33 |
+
- 중복 제거 후 개수: 1,361,825
|
34 |
- 사용 칼럼: 'ko', 'en'
|
35 |
- [한국어-영어 번역(병렬) 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=126) (126)
|
36 |
- 총 개수: 1,602,418
|
37 |
+
- 중복 제거 후 개수: 1,599,924
|
38 |
- 사용 칼럼: '원문', '번역문'
|
39 |
- [산업정보 연계 주요국 특허 영-한 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=563) (563)
|
40 |
- 총 개수: 359,999
|
41 |
+
- 중복 제거 후 개수: 358,424
|
42 |
- 사용 칼럼: 'astrt_cont_kor', 'astrt_cont_eng'
|
43 |
- [일상생활 및 구어체 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71265) (71265)
|
44 |
- 총 개수: 2,700,345
|
45 |
+
- 중복 제거 후 개수: 2,486,058
|
46 |
- 사용 칼럼: 'ko', 'en'
|
47 |
- [기술과학 분야 한-영 번역 병렬 말뭉치 데이터](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71266) (71266)
|
48 |
- 총 개수: 1,350,162
|
49 |
+
- 중복 제거 후 개수: 1,328,987
|
50 |
- 사용 칼럼: 'ko', 'en'
|
51 |
- [방송콘텐츠 한국어-영어 번역 말뭉치](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71382) (71382)
|
52 |
- 총 개수: 587,084
|
53 |
+
- 중복 제거 후 개수: 586,660
|
54 |
- 사용 칼럼: '원문', '최종번역문'
|