README.md

# AI Stage MRC task

## Version Info

### v4.1.1
- v3.2.3데이터 (train_dataset_aug)에 punctuation추가한 데이터셋, both train and validation
- train_aug_punctuation에 있음
- v4.1.0의 오류 해결

### v4.1.0
- v3.2.2데이터(train_dataset_aug)에 punctuation추가한 데이터셋, both train and validation
- train_data_aug에 있음
- answers 잘못 labeling된 데이터

### v4.0.1
- punctuation추가한 데이터셋, both train and validation
- answers type 정상

### v4.0.0
- punctuation추가한 데이터셋, only train 
- answers type 오류

### v3.2.3
- `v3.2.2`에서 잘못된 [ANSWER] 위치 수정

### v3.2.2
- `v3.2.1`에서 special token([TITLE]) 제거

### v3.2.1
- `v3.2.0`에서 special token([ANSWER]) 추가

### v3.2.0
- `v1.3.1`에서 special tokens([TITLE], #) 추가

### v3.1.0
- `v3.0.0`에서 Question 뒤에 NER 모델로 찾은 Entity 단어 추가

### v3.0.0
- `v1.0.0`에서 태욱님 answer, sentence split 토큰 추가

### v2.1.1
- `v2.1.0`에서 `v3.2.3`의 augmentation 데이터와 concat
- bt_context_extractive_final폴더에 train, validation사용

### v2.1.0
- extractive모델을 위한 pororo context augmentation
- context내에 answer가 유일한 데이터만 증강, answer위치 조정 완료
- context_bt_for_extracive폴더에 train, validation 추가

### v2.0.1
- `v2.0.0`에서 context내 answer가 손상된 데이터 제거

### v2.0.0
- 채은님 context backtranslation 추가한 데이터셋

### v1.6.4
- `v1.6.3`에서 `train_dataset_curri` 폴더 내 구성 변경
  - `train_level_1` & `train_level_2`-> `train_level_1`
  - `train_level_3` -> `train_level_2`
  - `train_level_#`을 모두 합친 `train_total`

### v1.6.3
- `v1.6.2`에서 `train_dataset_curri` 폴더 추가, 샘플별 스코어링하여 `level0` ~ `level3`으로 구성
- 사용 데이터셋 : `train`, `train_perm01`, `train_perm02`, `train_perm04`, `train_mask_2`, `train_hard_mask`, `pororo_aug_ver2_len_context_easy`,  `pororo_aug_ver2_len_context_normal`, `pororo_aug_ver2_len_context_hard`

### v1.6.2
- `v1.6.1`에서 `train_dataset` 폴더에 `train_mask_2`, `train_hard_mask` 데이터 추가

### v1.6.1
- `v1.6.0`에서 `train_dataset` 폴더에
  - `train_pororo_aug_ver2`의 context length 기준으로 curriculum-learning 데이터셋 추가
    - easy : `len < 673`
    - normal : `673 <= len < 935`
    - hard : `935 <= len`
  - `v1.4.1`의 업데이트 데이터셋 반영

### v1.6.0
- `v1.3.2`에서 `train_dataset` 폴더에 permutation ratio 0.1, 0.2, 0.4의 sentence permutation 데이터 추가

### v1.5.0
- `v1.4.1`에서 헷갈리는 단어, 날짜 정보 Masking datsets 추가

### v1.4.4
- `v1.4.1`에서 증강 데이터(train, valid pororo ver1 포함) concat, shuffled concat 추가

### v1.4.3
- `v1.4.1`에서 증강 데이터(train, valid pororo ver1 제외) concat, shuffled concat 추가

### v1.4.2
- `v1.4.1`에서 Question 뒤에 NER 모델로 찾은 Entity 단어 추가

### v1.4.1
- 대웅님께서 공유해주신 질문유형을 반영하여 기존의 질문을 7개에서 45개로 늘려 pororo aug 적용하여 pororo aug ver2 추가

### v1.3.2
- 'v1.3.1'에 'train_dataset_aeda'에 preprocessing 이 누락 되어 처리

### v1.3.1
- `v.1.3.0`에 `train_dataset_aug` 폴더 추가(question에 대한 조사 제거, Back Translation, AEDA, pororo aug ver1을 concatenate함)

### v1.3.0
- `v1.2.0`에서 `wiki_documents.json`을 pororo aug를 활용해 50,531건의 증강 데이터 추가

### v1.2.0
- `v1.1.0`에서 question에 대한 조사 제거, Back Translation, AEDA Augmentation 추가(pororo aug엔 적용하지 않음)

### v1.1.0
- `v1.0.0`에서 Question 뒤에 NER 모델로 찾은 Entity 단어 추가

### v1.0.0
- `v0.1.1`에서 context에 전처리

### v0.2.2
- `train_dataset`의 `train`, `validation` 셋에서 문제 및 정답오류 수정

### v0.2.1
- `train_pororo_aug`, `validation_pororo_aug`에도 동일한 summary 추가
- `context_bullet`에서 발견된 오류 수정(`context`와 관련 없는 문장이 생성되는 오류)

### v0.2.0
- 대웅님 pororo context summary 추가한 데이터셋

### v0.1.1
- 영재님 pororo augmenation 추가한 데이터셋
- `train_dataset`의 `train`, `validation` 셋에서 문제 및 정답오류 수정

### v0.1.0
- 영재님 pororo augmenation 추가한 데이터셋

### v0.0.0
- 대회에서 제공해주신 기본 데이터셋

## LICENSE
- CC-BY-2.0
- 모든 저작권은 AI Stage에게 있습니다!
- https://stages.ai/