End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.5113
-- Rouge1: 0.663
+- Rouge1: 0.3903
 - Rouge2: 0.0
-- Rougel: 0.6623
-- Rougelsum: 0.6589
+- Rougel: 0.3865
+- Rougelsum: 0.3895
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5112622380256653,
+    "eval_rouge1": 0.3903,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3865,
+    "eval_rougeLsum": 0.3895,
+    "eval_runtime": 665.1157,
+    "eval_samples": 750,
+    "eval_samples_per_second": 1.128,
+    "eval_steps_per_second": 0.036,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.49484536051750183,
+    "predict_rouge1": 0.4289,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4275,
+    "predict_rougeLsum": 0.4275,
+    "predict_runtime": 2750.4937,
+    "predict_samples": 3752,
+    "predict_samples_per_second": 1.364,
+    "predict_steps_per_second": 0.043,
+    "total_flos": 4.92564778057728e+16,
+    "train_loss": 0.5869357532449901,
+    "train_runtime": 3727.03,
+    "train_samples": 14272,
+    "train_samples_per_second": 19.147,
+    "train_steps_per_second": 1.197
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5112622380256653,
+    "eval_rouge1": 0.3903,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3865,
+    "eval_rougeLsum": 0.3895,
+    "eval_runtime": 665.1157,
+    "eval_samples": 750,
+    "eval_samples_per_second": 1.128,
+    "eval_steps_per_second": 0.036
+}

generated_predictions.txt

@@ -0,0 +1,3752 @@
+atau
+0
+dengan
+bisa
+t
+ada
+game
+yang
+t
+judi
+banyak
+akan
+/
+ke
+:
+-
+dari
+beberapa
+,
+)
+baik
+tidak
+dapat
+dalam
+menjadi
+9
+e
+untuk
+atau
+banyak
+uang
+harus
+bisa
+m
+
+4
+bisa
+anda
+anda
+hal
+
+
+
+
+"
+?
+harus
+karena
+
+game
+3
+.
+dan
+situs
+sebagai
+menjadi
+e
+para
+ada
+an
+poker
+(
+dapat
+/
+saya
+untuk
+memiliki
+1
+(
+
+ada
+dari
+.
+atau
+indonesia
+karena
+kita
+pada
+oleh
+4
+bisa
+6
+dapat
+5
+8
+7
+kan
+2
+bermain
+nya
+dari
+(
+kami
+mendapatkan
+anda
+u
+-
+ini
+ini
+
+6
+m
+sudah
+para
+kami
+mendapatkan
+atau
+harus
+/
+sangat
+i
+k
+ke
+bahwa
+dari
+salah
+sebagai
+namun
+satu
+online
+dalam
+saat
+
+akan
+beberapa
+saya
+2
+kita
+e
+yang
+di
+:
+di
+sehingga
+secara
+sangat
+sehingga
+salah
+kita
+menjadi
+satu
+tahun
+nya
+adalah
+dan
+ini
+adalah
+ke
+"
+bisa
+menjadi
+bisnis
+dari
+dalam
+)
+kan
+2
+9
+kan
+di
+-
+orang
+t
+adalah
+saja
+saat
+s
+untuk
+n
+atau
+lebih
+tidak
+1
+uang
+tersebut
+ini
+kan
+hal
+atau
+2
+permainan
+saja
+saya
+itu
+beberapa
+untuk
+t
+menjadi
+7
+dapat
+tidak
+
+an
+
+hal
+:
+sudah
+di
+untuk
+memiliki
+karena
+online
+saat
+menjadi
+apa
+akan
+:
+sangat
+,
+r
+tidak
+untuk
+3
+)
+judi
+itu
+kita
+
+situs
+mudah
+untuk
+u
+yang
+salah
+
+seperti
+dan
+/
+nya
+2
+6
+slot
+,
+adalah
+(
+8
+uang
+i
+lebih
+membuat
+
+2
+
+4
+a
+menjadi
+saat
+oleh
+2
+harus
+?
+dengan
+namun
+banyak
+bahwa
+
+9
+
+ada
+hal
+ini
+karena
+2
+ke
+ke
+untuk
+,
+pada
+t
+nya
+karena
+lain
+saat
+dapat
+permainan
+bisa
+lebih
+k
+seperti
+bisa
+6
+
+0
+.
+,
+dan
+bahwa
+0
+kan
+dapat
+seperti
+e
+untuk
+tidak
+an
+untuk
+lebih
+sebagai
+harus
+menggunakan
+)
+0
+dalam
+tersebut
+2
+nya
+menjadi
+hanya
+bermain
+0
+memiliki
+beberapa
+)
+
+uang
+menggunakan
+1
+salah
+slot
+saat
+,
+cara
+)
+mereka
+8
+permainan
+1
+mereka
+semua
+maka
+anda
+dari
+dari
+satu
+5
+anda
+nya
+.
+anda
+lebih
+tidak
+n
+besar
+dengan
+
+-
+u
+saya
+sangat
+9
+t
+akan
+baik
+dan
+menjadi
+dari
+salah
+5
+1
+ada
+situs
+e
+hanya
+ada
+ini
+0
+hanya
+4
+s
+ini
+situs
+namun
+
+slot
+yang
+anda
+0
+baik
+
+0
+9
+(
+oleh
+9
+ada
+k
+banyak
+baik
+masih
+
+oleh
+kan
+dalam
+s
+adalah
+adalah
+melakukan
+beberapa
+adalah
+-
+
+secara
+i
+juga
+menjadi
+k
+atau
+bisa
+an
+adalah
+lebih
+6
+ke
+lebih
+memiliki
+cara
+.
+dapat
+1
+3
+sudah
+.
+,
+/
+3
+)
+seperti
+besar
+,
+akan
+judi
+oleh
+adalah
+situs
+
+saya
+
+itu
+"
+masih
+6
+satu
+online
+hal
+dari
+1
+2
+atau
+akan
+karena
+saya
+6
+oleh
+banyak
+
+di
+ini
+bisa
+memiliki
+k
+1
+atau
+tidak
+kita
+sebagai
+e
+memiliki
+indonesia
+akan
+menjadi
+itu
+anda
+saat
+0
+7
+untuk
+a
+8
+g
+salah
+hal
+orang
+
+untuk
+karena
+
+cara
+-
+.
+satu
+0
+0
+
+7
+(
+
+p
+saat
+salah
+dan
+)
+dapat
+ini
+seperti
+saya
+tersebut
+baik
+lain
+s
+jika
+:
+-
+dengan
+akan
+yang
+akan
+2
+7
+uang
+0
+kami
+atau
+a
+(
+.
+indonesia
+bisa
+dengan
+dalam
+lain
+karena
+(
+cara
+(
+
+
+cara
+.
+membuat
+apa
+
+tidak
+pemain
+5
+dan
+9
+lain
+ke
+adalah
+,
+adalah
+melakukan
+dalam
+secara
+beberapa
+nya
+
+
+salah
+jika
+online
+saya
+para
+secara
+harus
+2
+oleh
+.
+ke
+sudah
+orang
+8
+.
+bahwa
+dan
+yang
+dengan
+memiliki
+salah
+"
+atau
+3
+permainan
+yang
+judi
+saja
+5
+e
+saat
+sangat
+2
+,
+.
+tidak
+kan
+dan
+hanya
+tidak
+mereka
+akan
+seperti
+akan
+.
+menggunakan
+
+
+"
+
+bahwa
+atau
+dalam
+ada
+saja
+akan
+
+nya
+
+k
+dengan
+bisa
+secara
+dapat
+juga
+
+harus
+
+oleh
+atau
+2
+1
+4
+kamu
+judi
+salah
+lebih
+.
+hanya
+.
+/
+e
+
+hal
+membuat
+bisa
+bahwa
+4
+
+tidak
+1
+membuat
+0
+tersebut
+kan
+e
+,
+tersebut
+mereka
+s
+kami
+an
+7
+an
+7
+dari
+banyak
+k
+.
+atau
+orang
+atau
+saya
+
+yang
+online
+sangat
+(
+membuat
+dan
+s
+)
+2
+bagi
+juga
+e
+)
+lain
+dengan
+
+karena
+situs
+pada
+untuk
+dalam
+an
+karena
+situs
+situs
+memiliki
+a
+ini
+mudah
+e
+4
+tidak
+di
+1
+yang
+,
+an
+3
+oleh
+permainan
+.
+mereka
+yang
+,
+mungkin
+adalah
+cara
+karena
+.
+itu
+m
+1
+dari
+-
+yang
+maka
+atau
+(
+d
+yang
+
+menggunakan
+?
+2
+dalam
+e
+e
+3
+3
+seperti
+kami
+a
+dari
+3
+baik
+,
+dari
+indonesia
+akan
+7
+saat
+dari
+dari
+d
+
+harus
+?
+untuk
+mereka
+dengan
+4
+memiliki
+
+mendapatkan
+ini
+dapat
+anda
+atau
+secara
+hanya
+ini
+a
+lain
+a
+
+0
+dalam
+untuk
+ini
+banyak
+memiliki
+(
+baru
+9
+dalam
+dengan
+dari
+di
+ada
+m
+?
+banyak
+itu
+harga
+9
+,
+yang
+kamu
+sudah
+kan
+di
+yang
+akan
+secara
+dan
+i
+"
+
+k
+permainan
+yang
+harus
+k
+online
+sudah
+online
+membuat
+dan
+7
+?
+yang
+kita
+-
+situs
+permainan
+dalam
+kamu
+dari
+lain
+)
+jika
+anda
+yang
+
+nya
+8
+itu
+
+
+lebih
+dalam
+mereka
+ada
+di
+judi
+yang
+an
+2
+3
+judi
+2
+nya
+oleh
+dapat
+harus
+pada
+besar
+kami
+7
+dalam
+ini
+dapat
+s
+an
+uang
+orang
+mereka
+-
+bahwa
+oleh
+ini
+d
+dengan
+itu
+(
+(
+u
+para
+
+permainan
+0
+3
+a
+bisa
+anda
+(
+tersebut
+kamu
+oleh
+yang
+di
+baik
+karena
+4
+di
+atau
+mendapatkan
+seperti
+banyak
+
+juga
+mendapatkan
+-
+t
+k
+telah
+/
+kan
+s
+menjadi
+jika
+poker
+,
+game
+di
+slot
+nya
+?
+.
+i
+e
+tidak
+ada
+akan
+salah
+beberapa
+i
+dalam
+di
+saja
+1
+dari
+beberapa
+:
+1
+:
+s
+
+dapat
+ini
+ini
+
+oleh
+itu
+0
+8
+saya
+anda
+satu
+an
+ini
+2
+:
+di
+dan
+bisa
+7
+
+a
+memiliki
+3
+nya
+pada
+online
+ke
+permainan
+e
+bermain
+ke
+9
+satu
+atau
+untuk
+
+satu
+pada
+satu
+
+dari
+-
+yang
+"
+jika
+bisa
+akan
+
+seperti
+kita
+
+
+orang
+mudah
+akan
+menggunakan
+sebagai
+g
+pada
+juga
+untuk
+3
+karena
+nya
+online
+
+untuk
+)
+membuat
+bahwa
+m
+lebih
+hanya
+r
+anda
+-
+anda
+-
+satu
+anda
+itu
+u
+menggunakan
+situs
+situs
+pemain
+menggunakan
+
+dari
+oleh
+atau
+yang
+saat
+dan
+an
+waktu
+ke
+1
+namun
+adalah
+itu
+baru
+cara
+adalah
+sudah
+atau
+ingin
+,
+bisa
+i
+maka
+sudah
+mereka
+permainan
+judi
+nya
+(
+menggunakan
+.
+,
+pada
+anda
+k
+permainan
+?
+0
+
+beberapa
+anda
+saja
+
+tidak
+6
+3
+ada
+hal
+beberapa
+banyak
+saya
+yang
+indonesia
+di
+7
+saya
+banyak
+bisa
+an
+memiliki
+8
+dan
+memiliki
+mudah
+besar
+)
+sebagai
+karena
+
+salah
+juga
+2
+ini
+melakukan
+5
+di
+5
+itu
+itu
+tersebut
+mereka
+3
+salah
+kita
+sangat
+juga
+kami
+dapat
+bisa
+o
+tidak
+i
+dapat
+2
+0
+o
+seperti
+di
+?
+dapat
+situs
+banyak
+"
+i
+situs
+2
+hal
+tersebut
+3
+t
+juga
+
+bahwa
+2
+hal
+bagi
+dan
+
+saya
+tidak
+2
+menggunakan
+,
+menjadi
+online
+game
+
+untuk
+anda
+
+2
+mereka
+1
+yang
+?
+game
+apa
+anda
+/
+kami
+,
+,
+salah
+secara
+lebih
+baik
+sangat
+secara
+
+3
+di
+lain
+saya
+:
+k
+pada
+hal
+
+6
+kamu
+
+harus
+situs
+terbaik
+lebih
+hanya
+namun
+satu
+
+baik
+bahwa
+,
+memiliki
+sangat
+para
+dengan
+8
+dapat
+?
+u
+namun
+0
+mereka
+oleh
+menjadi
+5
+?
+k
+
+menggunakan
+lebih
+oleh
+k
+-
+u
+bisnis
+
+mendapatkan
+kami
+situs
+akan
+apa
+di
+memiliki
+saya
+4
+kita
+8
+karena
+bagi
+banyak
+tahun
+dan
+orang
+dan
+tidak
+sangat
+hanya
+akan
+atau
+-
+
+seperti
+lagi
+1
+.
+dan
+t
+beberapa
+saja
+yang
+nya
+s
+sebagai
+oleh
+
+dan
+di
+
+t
+harus
+nya
+poker
+5
+d
+untuk
+oleh
+yang
+8
+.
+dalam
+s
+3
+t
+8
+situs
+s
+adalah
+ini
+di
+dari
+lebih
+seperti
+untuk
+m
+jadi
+kamu
+oleh
+sangat
+ini
+dan
+sangat
+lebih
+sebagai
+0
+tahun
+untuk
+
+ini
+itu
+mereka
+bisa
+permainan
+kamu
+kita
+di
+s
+tidak
+mereka
+kita
+baik
+)
+
+beberapa
+sangat
+kami
+ini
+dalam
+a
+
+sudah
+)
+seperti
+
+nya
+orang
+nya
+kan
+atau
+)
+dan
+anda
+kami
+1
+beberapa
+
+tidak
+dan
+hari
+permainan
+4
+orang
+/
+lebih
+uang
+slot
+)
+salah
+salah
+dalam
+pada
+,
+adalah
+di
+banyak
+hal
+mereka
+0
+orang
+baik
+lebih
+9
+yang
+4
+harga
+a
+di
+
+akan
+s
+bermain
+memiliki
+9
+untuk
+lainnya
+,
+saya
+pada
+atau
+di
+)
+mereka
+sangat
+permainan
+membuat
+dengan
+mereka
+saat
+banyak
+sangat
+yang
+.
+5
+,
+judi
+tidak
+saya
+i
+i
+
+)
+ada
+
+i
+
+atau
+kita
+bagi
+bisa
+0
+mudah
+3
+e
+k
+e
+sangat
+di
+bisa
+slot
+mereka
+5
+terbaik
+an
+cara
+e
+anda
+
+bisnis
+nya
+e
+i
+besar
+1
+akan
+dan
+
+poker
+o
+d
+kami
+ke
+0
+lain
+menggunakan
+/
+
+)
+s
+melakukan
+juga
+dari
+5
+di
+semua
+ini
+-
+
+tersebut
+bermain
+baru
+a
+8
+1
+menjadi
+saat
+
+ini
+sangat
+s
+yang
+ke
+tersebut
+karena
+ini
+dan
+/
+anda
+sudah
+t
+anda
+di
+4
+2
+beberapa
+an
+dari
+jika
+orang
+dari
+dari
+lebih
+hanya
+dengan
+atau
+banyak
+mudah
+situs
+yang
+3
+4
+0
+merupakan
+.
+
+situs
+karena
+memiliki
+
+saya
+kami
+kamu
+
+.
+
+anda
+juga
+para
+bagi
+juga
+baru
+ada
+9
+bisa
+
+kita
+n
+tahun
+)
+harus
+maka
+
+orang
+ke
+adalah
+?
+
+8
+bisa
+karena
+harus
+6
+hanya
+menggunakan
+i
+3
+adalah
+.
+,
+ini
+an
+sangat
+menjadi
+
+bermain
+,
+karena
+untuk
+online
+pada
+-
+judi
+5
+lebih
+ini
+mereka
+juga
+bahwa
+seperti
+aplikasi
+situs
+.
+d
+atau
+
+seperti
+dari
+sudah
+akan
+dari
+,
+0
+saat
+?
+anda
+banyak
+mereka
+:
+lebih
+itu
+jadi
+yang
+yang
+perlu
+6
+lebih
+a
+kan
+indonesia
+tersebut
+kami
+3
+-
+dalam
+a
+untuk
+sangat
+hanya
+juga
+maka
+
+bisa
+banyak
+hal
+hanya
+menjadi
+7
+bisa
+0
+2
+situs
+dapat
+secara
+7
+
+"
+juga
+secara
+sudah
+melakukan
+anda
+sangat
+6
+
+juga
+d
+dapat
+kami
+dapat
+3
+ada
+.
+bermain
+menjadi
+memiliki
+.
+,
+judi
+ini
+8
+anda
+jika
+"
+:
+i
+mungkin
+tidak
+cara
+oleh
+ini
+2
+saat
+akan
+baru
+2
+tahun
+7
+dan
+di
+s
+hal
+n
+kami
+jika
+banyak
+ketika
+
+a
+itu
+beberapa
+nya
+d
+seperti
+8
+)
+ini
+,
+memiliki
+permainan
+kamu
+akan
+nya
+,
+atau
+untuk
+membuat
+mereka
+orang
+.
+3
+slot
+dalam
+3
+)
+baik
+0
+membuat
+bisa
+pada
+sangat
+masih
+bagi
+?
+atau
+menggunakan
+di
+saja
+(
+
+7
+dalam
+ke
+indonesia
+2
+kan
+4
+i
+untuk
+salah
+dengan
+besar
+2
+untuk
+?
+6
+
+)
+/
+telah
+untuk
+,
+nya
+anda
+maka
+kan
+tahun
+i
+0
+dapat
+satu
+memiliki
+1
+permainan
+:
+membuat
+besar
+
+
+e
+e
+d
+kan
+judi
+
+satu
+.
+s
+lain
+anda
+”
+banyak
+bisa
+di
+ini
+
+hanya
+bisa
+baik
+ada
+2
+bisa
+situs
+itu
+.
+2
+nya
+di
+4
+2
+satu
+s
+atau
+,
+,
+
+kami
+telah
+9
+2
+game
+
+3
+atau
+apa
+lebih
+untuk
+melakukan
+seperti
+hanya
+nya
+akan
+"
+ini
+permainan
+pada
+,
+kita
+anda
+ini
+atau
+dan
+
+di
+7
+bisa
+anda
+mereka
+akan
+.
+sebagai
+di
+n
+semua
+
+juga
+dan
+–
+banyak
+sendiri
+itu
+an
+3
+yang
+ingin
+menggunakan
+memiliki
+dari
+an
+sebagai
+dalam
+akan
+dari
+bahwa
+e
+situs
+orang
+pada
+e
+tidak
+dan
+dan
+/
+semua
+harus
+saja
+
+7
+(
+lain
+bisa
+banyak
+orang
+anda
+bagi
+di
+0
+untuk
+orang
+banyak
+membuat
+tersebut
+untuk
+:
+6
+anda
+ada
+permainan
+i
+seperti
+(
+mudah
+k
+(
+k
+untuk
+lebih
+“
+m
+6
+salah
+k
+di
+pada
+jika
+online
+bisnis
+akan
+-
+slot
+nya
+yang
+seperti
+situs
+)
+semua
+ingin
+sebagai
+dengan
+bagi
+lebih
+yang
+k
+ke
+membuat
+ini
+harus
+bahwa
+3
+adalah
+harus
+bagi
+6
+orang
+1
+sangat
+tidak
+e
+adalah
+pada
+situs
+6
+/
+untuk
+tersebut
+.
+beberapa
+harus
+akan
+k
+5
+itu
+lebih
+hal
+saja
+t
+secara
+e
+orang
+ke
+
+?
+-
+dan
+sama
+online
+bisa
+4
+nya
+besar
+yang
+dan
+6
+dalam
+satu
+jika
+
+ke
+karena
+nya
+lain
+m
+tersebut
+e
+
+di
+sangat
+karena
+indonesia
+online
+
+bisa
+banyak
+dan
+telah
+dalam
+saja
+besar
+saya
+1
+orang
+orang
+ada
+itu
+4
+lebih
+situs
+sangat
+
+karena
+3
+.
+jika
+dari
+memiliki
+hal
+7
+mereka
+t
+di
+tidak
+dengan
+kami
+karena
+dan
+1
+,
+memiliki
+slot
+bisa
+untuk
+e
+t
+dengan
+satu
+memiliki
+
+kan
+kan
+hal
+banyak
+ke
+kita
+
+slot
+u
+:
+bermain
+
+pada
+harus
+a
+:
+-
+kita
+game
+
+yang
+bisa
+dari
+kita
+kan
+u
+menjadi
+
+saya
+sebagai
+hal
+saat
+6
+baik
+:
+4
+menjadi
+saya
+nya
+harus
+namun
+bisnis
+indonesia
+beberapa
+2
+
+tidak
+untuk
+hanya
+-
+s
+d
+indonesia
+4
+9
+dari
+anda
+seperti
+setiap
+nya
+-
+dalam
+)
+online
+,
+nya
+,
+saja
+)
+di
+yang
+oleh
+karena
+)
+seperti
+a
+membuat
+waktu
+
+"
+8
+
+bisa
+t
+a
+)
+bisnis
+memiliki
+
+saya
+kan
+0
+-
+seperti
+harus
+anda
+
+sudah
+
+saat
+nya
+.
+besar
+itu
+
+anda
+beberapa
+banyak
+dari
+saja
+(
+
+seperti
+akan
+dari
+bermain
+orang
+3
+ke
+1
+maka
+kami
+jika
+yang
+jika
+dapat
+s
+dan
+dapat
+i
+3
+ingin
+saat
+untuk
+/
+harus
+permainan
+saja
+harus
+anda
+hanya
+0
+kami
+-
+dengan
+dengan
+s
+pada
+-
+t
+baik
+(
+1
+ada
+2
+anda
+cara
+online
+kan
+baik
+d
+
+membuat
+dari
+beberapa
+bisa
+sangat
+sangat
+nya
+:
+an
+memiliki
+indonesia
+:
+7
+ini
+
+bisa
+(
+4
+secara
+menjadi
+dan
+lain
+judi
+ke
+beberapa
+o
+online
+karena
+sudah
+dengan
+0
+hal
+mudah
+
+atau
+lagi
+,
+a
+sangat
+
+yang
+.
+baik
+9
+juga
+sangat
+banyak
+0
+judi
+nya
+.
+-
+u
+itu
+?
+
+,
+harus
+a
+dari
+jika
+tersebut
+
+s
+tidak
+menggunakan
+
+bahwa
+.
+dari
+banyak
+sudah
+situs
+besar
+,
+s
+bahwa
+dapat
+
+atau
+tersebut
+.
+e
+pada
+ini
+0
+r
+-
+dan
+salah
+secara
+p
+kami
+ada
+?
+0
+pada
+kamu
+membuat
+bagi
+juga
+banyak
+
+tidak
+dan
+tidak
+ada
+untuk
+.
+4
+,
+
+bisa
+bisa
+judi
+seperti
+cara
+jadi
+semua
+itu
+beberapa
+mereka
+namun
+0
+ini
+lain
+0
+karena
+namun
+ini
+tidak
+"
+online
+-
+di
+pada
+pada
+s
+adalah
+orang
+
+sebagai
+3
+
+:
+memiliki
+menjadi
+secara
+atau
+pada
+0
+/
+juga
+saya
+dan
+.
+jika
+s
+di
+kita
+bisnis
+merupakan
+menjadi
+2
+)
+an
+(
+slot
+?
+-
+sebagai
+-
+mereka
+d
+mendapatkan
+)
+orang
+di
+pada
+poker
+dari
+dapat
+situs
+tahun
+baik
+s
+2
+dengan
+waktu
+an
+dengan
+
+saat
+
+3
+:
+saja
+online
+mereka
+5
+secara
+adalah
+online
+dengan
+1
+dan
+situs
+anda
+
+"
+.
+mudah
+ada
+sudah
+t
+
+situs
+:
+dan
+:
+membuat
+telah
+mereka
+memiliki
+
+juga
+bahwa
+e
+sudah
+pada
+untuk
+kami
+orang
+menjadi
+yang
+baik
+-
+situs
+apa
+8
+9
+dan
+5
+/
+
+dalam
+dalam
+memiliki
+hal
+d
+:
+
+melakukan
+atau
+menjadi
+
+salah
+dapat
+banyak
+memiliki
+tersebut
+ke
+tidak
+akan
+pada
+oleh
+tersebut
+
+1
+mendapatkan
+sangat
+permainan
+beberapa
+.
+melakukan
+adalah
+di
+seperti
+ini
+yang
+sudah
+memiliki
+0
+atau
+5
+yang
+-
+permainan
+dan
+hal
+juga
+nya
+mereka
+nya
+lebih
+anda
+pada
+memiliki
+d
+mereka
+orang
+,
+s
+judi
+tahun
+telah
+
+satu
+3
+seperti
+saya
+1
+adalah
+harus
+bisa
+.
+karena
+,
+dengan
+,
+dan
+kita
+,
+-
+game
+menjadi
+dengan
+saja
+banyak
+2
+besar
+telah
+jika
+juga
+nya
+melakukan
+dengan
+para
+ke
+9
+kita
+
+
+/
+s
+waktu
+,
+mereka
+apa
+kita
+adalah
+hanya
+membuat
+harus
+anda
+cara
+ini
+/
+sangat
+memiliki
+dan
+mereka
+akan
+semua
+,
+seperti
+0
+ini
+sebagai
+dengan
+bisa
+beberapa
+untuk
+ke
+namun
+ada
+judi
+harus
+poker
+cara
+akan
+kita
+nya
+-
+d
+kamu
+
+lain
+d
+dengan
+s
+dalam
+hanya
+-
+untuk
+semua
+di
+sangat
+judi
+itu
+-
+uang
+saat
+tersebut
+di
+sudah
+ada
+ini
+itu
+oleh
+bisnis
+a
+:
+sangat
+akan
+jika
+ingin
+permainan
+secara
+dia
+yang
+juga
+menjadi
+kamu
+-
+8
+ingin
+1
+dengan
+
+.
+5
+-
+5
+3
+untuk
+oleh
+dan
+dari
+membuat
+bisnis
+seperti
+
+mereka
+
+kami
+nya
+satu
+akan
+lebih
+judi
+yang
+menggunakan
+dengan
+
+dan
+an
+ini
+s
+orang
+3
+tidak
+kamu
+an
+kamu
+ke
+tahun
+an
+yang
+lainnya
+jika
+dan
+dapat
+2
+saya
+kamu
+untuk
+baik
+3
+(
+adalah
+bisa
+nya
+
+ke
+secara
+satu
+judi
+namun
+juga
+lebih
+
+atau
+indonesia
+(
+dan
+uang
+ini
+saya
+dari
+dalam
+itu
+pada
+di
+bisa
+bisa
+sudah
+membuat
+hal
+a
+kami
+0
+menggunakan
+nya
+situs
+dan
+ini
+an
+online
+akan
+2
+/
+.
+dari
+1
+6
+jika
+e
+2
+permainan
+,
+4
+satu
+permainan
+maka
+pada
+dari
+an
+saja
+ini
+t
+
+juga
+menjadi
+baik
+7
+s
+(
+4
+anda
+/
+untuk
+itu
+nya
+seperti
+juga
+1
+game
+para
+-
+seperti
+sudah
+lain
+sama
+online
+cara
+orang
+oleh
+
+
+kamu
+
+5
+mudah
+d
+9
+s
+karena
+anda
+t
+8
+pada
+para
+ini
+1
+bermain
+sudah
+telah
+harus
+ada
+akan
+tersebut
+tidak
+satu
+bisa
+
+hanya
+seperti
+menggunakan
+?
+anda
+menjadi
+
+a
+4
+online
+jika
+orang
+sangat
+ke
+online
+8
+yang
+dan
+
+atau
+itu
+i
+dan
+dapat
+
+7
+d
+ini
+-
+dengan
+ini
+mendapatkan
+pada
+yang
+dapat
+bermain
+satu
+
+.
+oleh
+akan
+memiliki
+dan
+a
+e
+adalah
+juga
+
+.
+harus
+kita
+a
+a
+membuat
+7
+0
+menggunakan
+an
+hanya
+hal
+d
+d
+namun
+situs
+secara
+itu
+lebih
+sebagai
+tidak
+menggunakan
+slot
+yang
+anda
+yang
+poker
+bermain
+ini
+namun
+3
+hal
+(
+dari
+saat
+di
+jika
+
+1
+untuk
+3
+nya
+
+kami
+,
+tidak
+akan
+akan
+itu
+permainan
+1
+saya
+baik
+dan
+di
+kan
+tersebut
+ini
+
+cara
+"
+yang
+ada
+2
+d
+para
+salah
+ingin
+r
+,
+yang
+sebagai
+k
+cara
+dan
+atau
+online
+melakukan
+s
+online
+sudah
+mereka
+judi
+membuat
+yang
+orang
+ada
+p
+e
+ke
+memiliki
+0
+lebih
+bisa
+ada
+oleh
+2
+tidak
+juga
+bisa
+sebagai
+melakukan
+judi
+cara
+kamu
+situs
+dapat
+cara
+
+situs
+t
+melakukan
+2
+(
+.
+s
+melakukan
+itu
+4
+anda
+yang
+(
+kami
+/
+di
+9
+dan
+besar
+bisa
+,
+mendapatkan
+lain
+hal
+seperti
+ini
+atau
+.
+sebagai
+bahwa
+baik
+6
+
+mereka
+di
+juga
+yang
+situs
+.
+8
+bahwa
+bisa
+kita
+"
+2
+,
+saat
+dengan
+orang
+melakukan
+bisnis
+e
+menjadi
+?
+besar
+nya
+k
+dalam
+tersebut
+8
+membuat
+tahun
+yang
+juga
+9
+5
+sudah
+
+an
+yang
+/
+kami
+4
+situs
+untuk
+permainan
+5
+judi
+slot
+orang
+hal
+-
+
+ini
+yang
+judi
+bisa
+karena
+5
+s
+,
+?
+saat
+-
+baik
+a
+banyak
+slot
+saja
+menggunakan
+poker
+besar
+kita
+tidak
+/
+9
+untuk
+,
+harus
+:
+seperti
+kan
+bisa
+dapat
+waktu
+9
+/
+.
+harus
+juga
+uang
+1
+i
+orang
+a
+tersebut
+,
+dapat
+indonesia
+tersebut
+s
+jika
+yang
+?
+hal
+i
+/
+banyak
+
+-
+lain
+akan
+para
+oleh
+indonesia
+2
+para
+kan
+sebagai
+
+saya
+9
+ada
+judi
+.
+anda
+lebih
+lebih
+secara
+an
+indonesia
+tentang
+besar
+cara
+kita
+kamu
+dengan
+
+baik
+salah
+2
+
+dengan
+indonesia
+?
+0
+bahwa
+juga
+3
+harus
+o
+bisa
+juga
+ini
+t
+-
+untuk
+
+.
+ke
+3
+akan
+itu
+harus
+dalam
+8
+adalah
+
+
+1
+an
+)
+a
+pada
+telah
+karena
+harus
+itu
+dan
+sudah
+ini
+untuk
+karena
+
+dengan
+secara
+8
+pada
+situs
+dalam
+ini
+.
+itu
+(
+0
+tahun
+yang
+bermain
+tersebut
+oleh
+kamu
+dan
+4
+"
+uang
+sangat
+
+k
+banyak
+8
+dengan
+salah
+e
+salah
+hanya
+bisnis
+yang
+itu
+t
+harus
+2
+saya
+e
+s
+dari
+akan
+online
+dan
+online
+tidak
+atau
+yang
+dan
+adalah
+9
+.
+nya
+ada
+ini
+)
+bahwa
+mereka
+kita
+memiliki
+pemain
+1
+2
+dapat
+maka
+juga
+indonesia
+adalah
+bermain
+apa
+pada
+-
+kita
+karena
+satu
+memiliki
+kamu
+,
+i
+mereka
+6
+
+sangat
+bisa
+anda
+beberapa
+yang
+banyak
+dengan
+jika
+saya
+ini
+2
+untuk
+?
+a
+kita
+kan
+karena
+tidak
+:
+di
+3
+oleh
+sudah
+,
+adalah
+t
+dalam
+:
+salah
+0
+jika
+memiliki
+(
+untuk
+hanya
+banyak
+memiliki
+s
+judi
+dari
+2
+situs
+juga
+1
+karena
+nya
+maka
+hanya
+beberapa
+lebih
+/
+mereka
+?
+?
+lain
+bermain
+situs
+anda
+judi
+0
+atau
+bermain
+menggunakan
+-
+6
+para
+ini
+indonesia
+ada
+4
+saja
+situs
+mendapatkan
+i
+dalam
+sebagai
+tersebut
+situs
+online
+mereka
+di
+ini
+ingin
+harus
+sudah
+kan
+dan
+dan
+sangat
+/
+ada
+para
+dapat
+i
+/
+)
+maka
+6
+,
+(
+hanya
+2
+saya
+bahwa
+-
+juga
+judi
+akan
+:
+para
+pada
+baik
+3
+dalam
+orang
+orang
+bahwa
+banyak
+ini
+salah
+melakukan
+ke
+cara
+e
+itu
+lain
+r
+2
+i
+judi
+indonesia
+)
+.
+bermain
+:
+yang
+-
+online
+pemain
+dapat
+satu
+membuat
+kan
+dari
+
+judi
+saya
+
+k
+maka
+karena
+sangat
+kita
+kamu
+hal
+mereka
+akan
+,
+pun
+dari
+itu
+4
+7
+harus
+3
+4
+melakukan
+.
+adalah
+tidak
+t
+.
+k
+
+pemain
+e
+banyak
+dengan
+"
+0
+karena
+adalah
+juga
+m
+di
+"
+k
+1
+
+situs
+5
+game
+ketika
+nya
+yang
+di
+"
+(
+
+
+a
+menjadi
+jika
+3
+3
+hanya
+0
+k
+untuk
+8
+)
+jika
+itu
+
+menjadi
+ada
+saat
+dan
+
+oleh
+atau
+dalam
+saya
+7
+.
+slot
+oleh
+
+yang
+d
+dan
+yang
+saat
+/
+karena
+)
+sangat
+karena
+untuk
+sebagai
+mereka
+dengan
+nya
+tidak
+nya
+
+lain
+seperti
+judi
+dari
+3
+online
+anda
+dalam
+kamu
+1
+besar
+5
+,
+akan
+7
+kan
+dan
+
+yang
+p
+lebih
+orang
+banyak
+membuat
+secara
+
+)
+adalah
+telah
+lebih
+
+t
+(
+ada
+6
+dapat
+untuk
+(
+tidak
+i
+e
+di
+ini
+dalam
+(
+
+a
+melakukan
+indonesia
+sangat
+harus
+.
+ada
+dengan
+)
+juga
+dan
+bagi
+dalam
+namun
+
+/
+memiliki
+jika
+lain
+(
+
+harus
+dalam
+untuk
+adalah
+:
+5
+bahwa
+an
+para
+0
+hal
+akan
+telah
+tersebut
+beberapa
+kita
+yang
+adalah
+yang
+
+anda
+kan
+
+tidak
+/
+4
+hal
+0
+karena
+akan
+:
+8
+i
+permainan
+
+jika
+akan
+saya
+itu
+saat
+harus
+dari
+
+hanya
+para
+jika
+karena
+6
+(
+
+8
+bisa
+2
+karena
+sebagai
+kita
+jika
+bermain
+0
+baik
+semua
+sendiri
+akan
+)
+,
+i
+sebagai
+.
+poker
+sangat
+)
+:
+e
+kami
+baik
+tidak
+1
+:
+salah
+itu
+
+0
+mereka
+5
+banyak
+anda
+tempat
+mereka
+yang
+memiliki
+
+oleh
+tidak
+6
+ke
+9
+dalam
+dengan
+namun
+7
+permainan
+2
+tersebut
+t
+jadi
+adalah
+0
+maka
+.
+untuk
+
+sudah
+dengan
+i
+untuk
+atau
+seperti
+situs
+bahwa
+salah
+satu
+untuk
+"
+sudah
+indonesia
+baik
+3
+saja
+s
+?
+tersebut
+sudah
+saat
+a
+menjadi
+sangat
+ke
+juga
+saya
+harus
+hanya
+ada
+di
+tidak
+terbaik
+itu
+kita
+adalah
+yang
+dengan
+ada
+dengan
+bisa
+oleh
+8
+adalah
+,
+d
+kita
+tersebut
+juga
+ini
+pada
+
+saya
+orang
+.
+ini
+nya
+9
+bagi
+k
+
+
+seperti
+salah
+banyak
+uang
+4
+saya
+itu
+k
+8
+saya
+t

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.49484536051750183,
+    "predict_rouge1": 0.4289,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4275,
+    "predict_rougeLsum": 0.4275,
+    "predict_runtime": 2750.4937,
+    "predict_samples": 3752,
+    "predict_samples_per_second": 1.364,
+    "predict_steps_per_second": 0.043
+}

runs/Jul06_15-56-13_a94680512e46/events.out.tfevents.1720285787.a94680512e46.1546955.1

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9cdc4aaadc1427397e49025ba4533142f527ee8854cc251802179cac5bacbfaa
+size 613

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 4.92564778057728e+16,
+    "train_loss": 0.5869357532449901,
+    "train_runtime": 3727.03,
+    "train_samples": 14272,
+    "train_samples_per_second": 19.147,
+    "train_steps_per_second": 1.197
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 4460,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 0.6732619404792786,
+      "learning_rate": 0.0008,
+      "loss": 0.7757,
+      "step": 892
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5546033978462219,
+      "eval_rouge1": 0.6666,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6657,
+      "eval_rougeLsum": 0.6687,
+      "eval_runtime": 36.0614,
+      "eval_samples_per_second": 20.798,
+      "eval_steps_per_second": 0.666,
+      "step": 892
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 0.6083085536956787,
+      "learning_rate": 0.0006,
+      "loss": 0.6033,
+      "step": 1784
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5361196398735046,
+      "eval_rouge1": 0.6576,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6553,
+      "eval_rougeLsum": 0.6594,
+      "eval_runtime": 36.1132,
+      "eval_samples_per_second": 20.768,
+      "eval_steps_per_second": 0.665,
+      "step": 1784
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 0.7207215428352356,
+      "learning_rate": 0.0004,
+      "loss": 0.5534,
+      "step": 2676
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5343378782272339,
+      "eval_rouge1": 0.6895,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6885,
+      "eval_rougeLsum": 0.6892,
+      "eval_runtime": 36.2134,
+      "eval_samples_per_second": 20.711,
+      "eval_steps_per_second": 0.663,
+      "step": 2676
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 0.5183739066123962,
+      "learning_rate": 0.0002,
+      "loss": 0.5156,
+      "step": 3568
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5145081281661987,
+      "eval_rouge1": 0.6609,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6612,
+      "eval_rougeLsum": 0.6631,
+      "eval_runtime": 36.0417,
+      "eval_samples_per_second": 20.809,
+      "eval_steps_per_second": 0.666,
+      "step": 3568
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 0.5874832272529602,
+      "learning_rate": 0.0,
+      "loss": 0.4866,
+      "step": 4460
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5112622380256653,
+      "eval_rouge1": 0.663,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6623,
+      "eval_rougeLsum": 0.6589,
+      "eval_runtime": 35.8754,
+      "eval_samples_per_second": 20.906,
+      "eval_steps_per_second": 0.669,
+      "step": 4460
+    },
+    {
+      "epoch": 5.0,
+      "step": 4460,
+      "total_flos": 4.92564778057728e+16,
+      "train_loss": 0.5869357532449901,
+      "train_runtime": 3727.03,
+      "train_samples_per_second": 19.147,
+      "train_steps_per_second": 1.197
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 4460,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 4.92564778057728e+16,
+  "train_batch_size": 16,
+  "trial_name": null,
+  "trial_params": null
+}