razent commited on
Commit
a3e035c
1 Parent(s): a1e1667

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +55 -0
README.md ADDED
@@ -0,0 +1,55 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language: vi
3
+ datasets:
4
+ - cc100
5
+ tags:
6
+ - summarization
7
+
8
+ license: mit
9
+
10
+ widget:
11
+ - text: "VietAI là tổ chức phi lợi nhuận với sứ mệnh ươm mầm tài năng về trí tuệ nhân tạo và xây dựng một cộng đồng các chuyên gia trong lĩnh vực trí tuệ nhân tạo đẳng cấp quốc tế tại Việt Nam."
12
+ ---
13
+
14
+ # ViT5-Base Finetuned on `vietnews` Abstractive Summarization (No prefix needed)
15
+
16
+
17
+ State-of-the-art pretrained Transformer-based encoder-decoder model for Vietnamese.
18
+ [![PWC](https://img.shields.io/endpoint.svg?url=https://paperswithcode.com/badge/vit5-pretrained-text-to-text-transformer-for/abstractive-text-summarization-on-vietnews)](https://paperswithcode.com/sota/abstractive-text-summarization-on-vietnews?p=vit5-pretrained-text-to-text-transformer-for)
19
+
20
+
21
+ ## How to use
22
+ For more details, do check out [our Github repo](https://github.com/vietai/ViT5) and [eval script](https://github.com/vietai/ViT5/blob/main/eval/Eval_vietnews_sum.ipynb).
23
+
24
+ ```python
25
+ from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
26
+
27
+ tokenizer = AutoTokenizer.from_pretrained("VietAI/vit5-base-vietnews-summarization")
28
+ model = AutoModelForSeq2SeqLM.from_pretrained("VietAI/vit5-base-vietnews-summarization")
29
+ model.cuda()
30
+
31
+ sentence = "VietAI là tổ chức phi lợi nhuận với sứ mệnh ươm mầm tài năng về trí tuệ nhân tạo và xây dựng một cộng đồng các chuyên gia trong lĩnh vực trí tuệ nhân tạo đẳng cấp quốc tế tại Việt Nam."
32
+ encoding = tokenizer(sentence, return_tensors="pt")
33
+ input_ids, attention_masks = encoding["input_ids"].to("cuda"), encoding["attention_mask"].to("cuda")
34
+ outputs = model.generate(
35
+ input_ids=input_ids, attention_mask=attention_masks,
36
+ max_length=256,
37
+ early_stopping=True
38
+ )
39
+ for output in outputs:
40
+ line = tokenizer.decode(output, skip_special_tokens=True, clean_up_tokenization_spaces=True)
41
+ print(line)
42
+ ```
43
+
44
+ ## Citation
45
+ ```
46
+ @inproceedings{phan-etal-2022-vit5,
47
+ title = "{V}i{T}5: Pretrained Text-to-Text Transformer for {V}ietnamese Language Generation",
48
+ author = "Phan, Long and Tran, Hieu and Nguyen, Hieu and Trinh, Trieu H.",
49
+ booktitle = "Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies: Student Research Workshop",
50
+ year = "2022",
51
+ publisher = "Association for Computational Linguistics",
52
+ url = "https://aclanthology.org/2022.naacl-srw.18",
53
+ pages = "136--142",
54
+ }
55
+ ```