End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.48620468378067017,
+    "eval_rouge1": 0.3867,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3833,
+    "eval_rougeLsum": 0.386,
+    "eval_runtime": 329.5305,
+    "eval_samples": 747,
+    "eval_samples_per_second": 2.267,
+    "eval_steps_per_second": 0.285,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.49805939197540283,
+    "predict_rouge1": 0.4186,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4199,
+    "predict_rougeLsum": 0.4194,
+    "predict_runtime": 1669.8099,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 2.238,
+    "predict_steps_per_second": 0.28,
+    "total_flos": 6.55200095561257e+16,
+    "train_loss": 0.38020934802358836,
+    "train_runtime": 9310.5317,
+    "train_samples": 14290,
+    "train_samples_per_second": 7.674,
+    "train_steps_per_second": 1.919
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.48620468378067017,
+    "eval_rouge1": 0.3867,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3833,
+    "eval_rougeLsum": 0.386,
+    "eval_runtime": 329.5305,
+    "eval_samples": 747,
+    "eval_samples_per_second": 2.267,
+    "eval_steps_per_second": 0.285
+}

generated_predictions.txt

@@ -0,0 +1,3737 @@
+bisa
+3
+baik
+kami
+karena
+dengan
+slot
+harga
+)
+permainan
+a
+kami
+yang
+4
+
+?
+menggunakan
+?
+3
+
+kamu
+cara
+.
+permainan
+bisa
+8
+bisa
+saja
+pemain
+maka
+hal
+,
+hal
+bahwa
+ada
+membuat
+dengan
+ke
+orang
+mendapatkan
+.
+bisa
+,
+dan
+orang
+lebih
+"
+3
+yang
+tersebut
+yang
+,
+kita
+juga
+9
+tersebut
+,
+memiliki
+(
+t
+-
+,
+maka
+yang
+pada
+saya
+.
+dapat
+9
+tidak
+.
+di
+mereka
+kami
+sebagai
+lebih
+
+6
+atau
+sudah
+(
+telah
+secara
+"
+juga
+maka
+dari
+bahwa
+memiliki
+0
+bahwa
+2
+saya
+2
+dalam
+situs
+lebih
+itu
+hal
+nya
+kami
+sebagai
+hanya
+dengan
+orang
+bermain
+hanya
+.
+.
+besar
+1
+dengan
+untuk
+sudah
+seperti
+tersebut
+ini
+adalah
+"
+situs
+i
+2
+dari
+"
+)
+judi
+,
+
+"
+untuk
+banyak
+pada
+"
+"
+secara
+yang
+sudah
+/
+5
+
+4
+para
+.
+
+mereka
+baik
+bisa
+3
+kami
+dapat
+s
+8
+juga
+)
+online
+bermain
+hal
+0
+:
+ke
+kamu
+apa
+
+tidak
+menjadi
+.
+saat
+(
+dengan
+4
+7
+itu
+,
+itu
+,
+hanya
+-
+satu
+banyak
+s
+memiliki
+bisa
+dengan
+satu
+?
+kita
+cara
+untuk
+4
+anda
+dan
+atau
+(
+nya
+dan
+saya
+pada
+banyak
+satu
+ini
+
+anda
+"
+poker
+anda
+orang
+saya
+,
+.
+,
+sebagai
+1
+jadi
+an
+
+anda
+tersebut
+orang
+para
+saja
+bisnis
+besar
+anda
+sudah
+yang
+game
+juga
+ini
+baik
+slot
+hanya
+dalam
+adalah
+dalam
+situs
+untuk
+dan
+ke
+ini
+baik
+hanya
+baik
+?
+sangat
+dapat
+bahwa
+maka
+saja
+lebih
+cara
+di
+(
+/
+dan
+juga
+kita
+atau
+secara
+nya
+anda
+cara
+untuk
+satu
+baik
+baik
+dan
+di
+di
+6
+6
+atau
+dari
+2
+saya
+untuk
+-
+0
+kan
+ada
+menggunakan
+beberapa
+untuk
+,
+7
+:
+besar
+sebagai
+oleh
+sangat
+
+
+u
+hanya
+permainan
+d
+tersebut
+ini
+d
+7
+nya
+dalam
+a
+bisa
+ke
+:
+juga
+banyak
+maka
+
+banyak
+mereka
+bisa
+2
+3
+ini
+anda
+k
+di
+3
+judi
+
+bisa
+cara
+jika
+bermain
+di
+harus
+ada
+situs
+sangat
+saja
+banyak
+)
+itu
+tersebut
+untuk
+
+ini
+sudah
+
+0
+i
+an
+
+dan
+kami
+hanya
+besar
+5
+
+
+4
+kami
+kami
+tidak
+bahwa
+di
+dari
+sebagai
+
+dengan
+"
+t
+situs
+2
+sudah
+tidak
+di
+1
+i
+s
+indonesia
+2
+di
+kita
+slot
+itu
+secara
+.
+secara
+ada
+sebagai
+3
+karena
+untuk
+bisa
+anda
+.
+kan
+bisa
+/
+tidak
+bisa
+
+7
+t
+hanya
+tersebut
+untuk
+harus
+para
+dari
+"
+tidak
+para
+ini
+s
+untuk
+tersebut
+i
+salah
+oleh
+sangat
+besar
+besar
+judi
+
+yang
+yang
+memiliki
+jadi
+maka
+tidak
+game
+dari
+besar
+dengan
+menjadi
+juga
+harus
+tersebut
+dapat
+karena
+banyak
+8
+harus
+:
+
+hanya
+
+satu
+"
+online
+akan
+game
+juga
+dapat
+
+kamu
+(
+k
+seperti
+dalam
+8
+menjadi
+ini
+akan
+itu
+"
+baik
+dan
+e
+saya
+
+ini
+banyak
+1
+,
+)
+
+lebih
+dapat
+/
+d
+permainan
+dapat
+di
+0
+namun
+bahwa
+
+apa
+menjadi
+dan
+4
+ke
+lebih
+yang
+sangat
+.
+untuk
+satu
+para
+dan
+akan
+i
+online
+sudah
+0
+e
+i
+kita
+memiliki
+dan
+juga
+"
+m
+dan
+adalah
+yang
+hal
+untuk
+situs
+dengan
+5
+memiliki
+8
+
+dari
+nya
+karena
+lain
+kami
+adalah
+melakukan
+,
+tidak
+dan
+mereka
+harus
+ini
+permainan
+e
+nya
+ke
+s
+s
+sudah
+kamu
+jika
+bahwa
+mereka
+.
+dan
+untuk
+jika
+anda
+semua
+dan
+kami
+u
+ini
+seperti
+di
+kita
+akan
+u
+pada
+3
+)
+judi
+3
+7
+online
+.
+salah
+itu
+mereka
+yang
+
+dari
+memiliki
+melakukan
+i
+anda
+tersebut
+.
+"
+mereka
+cara
+beberapa
+i
+membuat
+beberapa
+oleh
+bagi
+yang
+ini
+
+a
+telah
+ada
+6
+tersebut
+ini
+saya
+sudah
+
+secara
+online
+nya
+hanya
+baik
+dengan
+bisnis
+mereka
+membuat
+(
+/
+maka
+3
+.
+lebih
+akan
+ini
+adalah
+1
+slot
+situs
+,
+7
+yang
+4
+:
+"
+e
+-
+tidak
+e
+1
+2
+nya
+dengan
+anda
+9
+orang
+5
+sudah
+judi
+permainan
+dan
+saja
+jika
+bahwa
+pada
+
+slot
+atau
+sebagai
+2
+sudah
+pemain
+kamu
+?
+t
+judi
+:
+game
+baik
+perlu
+nya
+an
+sebagai
+membuat
+maka
+kami
+yang
+-
+5
+salah
+hanya
+-
+9
+mereka
+0
+jika
+,
+besar
+2
+sebagai
+adalah
+bermain
+s
+tidak
+sebagai
+lebih
+adalah
+dalam
+dalam
+oleh
+dari
+
+tidak
+k
+situs
+sudah
+mereka
+0
+uang
+,
+0
+(
+3
+
+
+ke
+
+seperti
+di
+membuat
+6
+baik
+menjadi
+jika
+online
+nya
+juga
+beberapa
+i
+hal
+beberapa
+
+kita
+:
+
+saat
+lebih
+slot
+ini
+judi
+u
+kami
+yang
+-
+i
+cara
+(
+itu
+juga
+5
+melakukan
+-
+-
+
+dapat
+uang
+di
+mereka
+8
+lain
+di
+di
+bahwa
+satu
+-
+i
+indonesia
+:
+judi
+kita
+u
+saja
+"
+mereka
+namun
+t
+yang
+4
+
+kita
+yang
+ini
+s
+"
+permainan
+satu
+lain
+lebih
+bisnis
+s
+2
+6
+
+1
+anda
+yang
+di
+kita
+kami
+dalam
+salah
+indonesia
+mungkin
+(
+-
+di
+kan
+harus
+game
+
+untuk
+atau
+seperti
+2
+mereka
+di
+bisa
+itu
+.
+orang
+
+7
+kami
+k
+untuk
+9
+
+k
+)
+
+baik
+adalah
+namun
+u
+i
+untuk
+pemain
+dari
+namun
+i
+1
+cara
+di
+sangat
+dalam
+(
+,
+e
+,
+o
+/
+nya
+kita
+orang
+satu
+dari
+situs
+beberapa
+
+9
+hanya
+adalah
+9
+/
+sudah
+1
+)
+nya
+membuat
+4
+e
+situs
+/
+adalah
+an
+2
+kami
+a
+untuk
+
+a
+nya
+"
+,
+ini
+(
+,
+namun
+:
+memiliki
+jika
+banyak
+telah
+bermain
+?
+lain
+e
+kami
+/
+
+dan
+game
+hal
+.
+e
+oleh
+indonesia
+pada
+hal
+atau
+salah
+anda
+s
+online
+adalah
+atau
+bahwa
+5
+oleh
+bisa
+
+anda
+bisa
+akan
+dalam
+,
+dapat
+untuk
+t
+baik
+ke
+1
+
+1
+
+akan
+an
+1
+"
+adalah
+secara
+t
+nya
+seperti
+membuat
+ini
+tidak
+untuk
+:
+pada
+atau
+/
+tidak
+di
+
+di
+ini
+sudah
+k
+apa
+anda
+online
+1
+di
+atau
+satu
+apa
+juga
+orang
+harus
+cara
+1
+akan
+semua
+adalah
+dengan
+bagi
+s
+4
+online
+besar
+pemain
+bahwa
+
+besar
+,
+k
+9
+ini
+oleh
+dapat
+satu
+
+"
+ini
+juga
+lebih
+
+a
+ke
+memiliki
+secara
+hal
+orang
+8
+,
+lebih
+online
+salah
+secara
+tidak
+9
+dapat
+bisa
+s
+"
+
+akan
+juga
+bagi
+o
+ini
+.
+:
+9
+0
+,
+ini
+permainan
+akan
+k
+
+atau
+:
+itu
+ini
+9
+jika
+ada
+secara
+3
+situs
+mungkin
+menjadi
+bahwa
+nya
+pada
+untuk
+harus
+e
+a
+ke
+seperti
+menggunakan
+sangat
+yang
+ingin
+atau
+9
+0
+,
+jika
+ke
+tidak
+-
+dan
+karena
+kami
+0
+i
+ada
+atau
+tidak
+salah
+9
+
+
+an
+.
+saat
+-
+?
+kami
+
+baik
+3
+ke
+s
+bahwa
+atau
+e
+judi
+jika
+pada
+2
+di
+lebih
+membuat
+akan
+atau
+kamu
+
+karena
+dengan
+ke
+5
+sebagai
+satu
+permainan
+nya
+mereka
+dengan
+dengan
+juga
+judi
+bisa
+terbaik
+?
+banyak
+ada
+kan
+saya
+untuk
+d
+"
+yang
+dalam
+adalah
+maka
+kami
+dapat
+saat
+sangat
+juga
+m
+kita
+bagi
+-
+1
+
+e
+ini
+ke
+dengan
+beberapa
+dengan
+sangat
+t
+atau
+saat
+
+indonesia
+ke
+harus
+sangat
+bisa
+menjadi
+kami
+9
+8
+uang
+i
+menggunakan
+0
+e
+cara
+s
+,
+para
+kami
+dapat
+hanya
+?
+ini
+(
+9
+banyak
+8
+game
+dan
+atau
+"
+atau
+:
+online
+oleh
+cara
+untuk
+
+,
+"
+hanya
+harga
+adalah
+sebagai
+juga
+dari
+
+oleh
+u
+"
+di
+1
+tahun
+judi
+dalam
+ada
+s
+,
+
+
+6
+menjadi
+
+untuk
+u
+saat
+d
+kita
+slot
+harus
+seperti
+a
+saja
+anda
+2
+)
+online
+,
+9
+1
+saat
+game
+atau
+adalah
+saja
+anda
+kami
+.
+maka
+itu
+lebih
+
+cara
+melakukan
+1
+mudah
+karena
+-
+atau
+
+6
+/
+harus
+di
+.
+yang
+"
+dalam
+adalah
+situs
+salah
+0
+ada
+satu
+orang
+online
+sebagai
+akan
+(
+dengan
+satu
+an
+adalah
+kita
+"
+atau
+telah
+karena
+orang
+anda
+dan
+sudah
+)
+yang
+:
+u
+satu
+sangat
+saya
+telah
+perlu
+memiliki
+sudah
+tersebut
+di
+dari
+jika
+banyak
+adalah
+memiliki
+,
+anda
+dalam
+)
+dalam
+atau
+hal
+anda
+nya
+tahun
+dengan
+lain
+8
+atau
+ada
+-
+
+harus
+tidak
+harus
+1
+telah
+u
+orang
+semua
+slot
+secara
+.
+1
+bermain
+menggunakan
+s
+adalah
+bisa
+memiliki
+online
+karena
+o
+
+melakukan
+satu
+4
+0
+sangat
+1
+itu
+saya
+s
+o
+ini
+8
+baik
+k
+s
+.
+:
+juga
+kami
+saya
+ada
+pada
+menggunakan
+di
+tentang
+saya
+saya
+atau
+,
+di
+di
+kami
+s
+.
+orang
+maka
+yang
+menggunakan
+dalam
+jika
+juga
+tidak
+hanya
+"
+"
+.
+0
+bisnis
+an
+2
+saja
+dengan
+bisa
+d
+dapat
+yang
+
+4
+karena
+cara
+menjadi
+saja
+a
+(
+untuk
+dengan
+di
+
+online
+atau
+nya
+bagi
+poker
+.
+t
+
+itu
+(
+yang
+dari
+para
+akan
+sudah
+oleh
+saat
+"
+d
+an
+s
+dari
+ke
+adalah
+sangat
+oleh
+lebih
+t
+memiliki
+?
+i
+5
+tidak
+jika
+hal
+t
+adalah
+bisa
+cara
+orang
+kami
+
+saja
+s
+dengan
+a
+indonesia
+
+karena
+cara
+untuk
+.
+hal
+o
+satu
+dan
+juga
+,
+adalah
+2
+pada
+kami
+(
+secara
+satu
+-
+"
+yang
+(
+pada
+sudah
+adalah
+dari
+mungkin
+
+6
+kan
+yang
+di
+harus
+bisa
+permainan
+maka
+karena
+
+d
+0
+p
+judi
+
+
+ini
+lain
+anda
+k
+itu
+s
+kami
+seperti
+bisnis
+
+adalah
+telah
+permainan
+akan
+i
+harus
+bisa
+8
+cara
+2
+,
+tersebut
+saya
+di
+
+itu
+dapat
+5
+cara
+k
+indonesia
+
+:
+0
+)
+nya
+8
+melakukan
+1
+di
+permainan
+permainan
+saja
+salah
+dalam
+besar
+tentang
+.
+nya
+akan
+2
+cara
+bermain
+
+sudah
+seperti
+dapat
+dan
+t
+oleh
+8
+kita
+mereka
+(
+dapat
+
+permainan
+ini
+bisa
+melakukan
+9
+,
+cara
+
+a
+ada
+juga
+dari
+oleh
+o
+lain
+oleh
+t
+nya
+juga
+.
+dalam
+"
+,
+anda
+itu
+dari
+adalah
+namun
+juga
+sudah
+ada
+.
+3
+adalah
+lebih
+,
+2
+0
+
+ini
+-
+dari
+an
+hanya
+k
+kita
+untuk
+membuat
+salah
+1
+untuk
+d
+
+5
+:
+bisa
+
+saja
+k
+sangat
+seperti
+oleh
+uang
+adalah
+situs
+dan
+di
+permainan
+,
+slot
+hanya
+sudah
+baik
+satu
+memiliki
+bisa
+nya
+orang
+
+dan
+
+tahun
+?
+an
+anda
+1
+/
+seperti
+kita
+online
+tersebut
+akan
+pada
+jadi
+untuk
+dari
+3
+4
+s
+0
+situs
+dengan
+adalah
+pada
+5
+
+orang
+indonesia
+pada
+e
+hal
+oleh
+itu
+lebih
+satu
+adalah
+nya
+slot
+(
+lebih
+semua
+bisa
+judi
+sudah
+
+hal
+.
+juga
+seperti
+menggunakan
+online
+situs
+9
+indonesia
+
+i
+tidak
+dengan
+di
+semua
+an
+"
+hanya
+
+dari
+untuk
+i
+i
+ada
+yang
+juga
+8
+k
+t
+dengan
+e
+oleh
+anda
+harus
+beberapa
+:
+dapat
+?
+tersebut
+bagi
+0
+anda
+seperti
+hal
+e
+0
+anda
+ini
+–
+bisa
+indonesia
+kita
+hanya
+kita
+kan
+jika
+7
+tidak
+-
+jika
+satu
+saat
+k
+s
+beberapa
+permainan
+membuat
+saya
+kita
+5
+2
+ada
+ada
+kami
+.
+
+5
+secara
+yang
+nya
+d
+u
+"
+salah
+?
+akan
+untuk
+online
+8
+hal
+namun
+s
+itu
+
+1
+maka
+ada
+4
+sebagai
+seperti
+sangat
+beberapa
+online
+dari
+kita
+dan
+mungkin
+banyak
+pada
+menggunakan
+)
+dalam
+?
+sebagai
+ke
+harus
+:
+.
+u
+6
+baik
+baik
+bisa
+slot
+e
+saja
+)
+lain
+t
+menggunakan
+oleh
+namun
+6
+kamu
+/
+pada
+
+permainan
+saya
+nya
+kamu
+dari
+lain
+dengan
+sebagai
+salah
+anda
+dan
+situs
+an
+dengan
+2
+lain
+e
+harus
+(
+3
+1
+ke
+di
+2
+atau
+bermain
+dalam
+tersebut
+mereka
+
+6
+yang
+saat
+menggunakan
+anda
+membuat
+9
+i
+1
+anda
+
+lebih
+kamu
+apa
+,
+/
+s
+tersebut
+itu
+ke
+pemain
+6
+permainan
+anda
+adalah
+cara
+yang
+pada
+dan
+maka
+a
+,
+hanya
+bahwa
+5
+dapat
+maka
+i
+lebih
+online
+memiliki
+saya
+saya
+anda
+t
+saja
+0
+seperti
+2
+oleh
+.
+
+dapat
+tersebut
+
+menggunakan
+1
+atau
+kamu
+yang
+lain
+lebih
+ini
+maka
+judi
+4
+kami
+permainan
+di
+dengan
+semua
+juga
+tersebut
+mereka
+,
+sebagai
+2
+a
+6
+hanya
+
+tersebut
+hal
+5
+i
+baik
+indonesia
+atau
+dengan
+kami
+)
+hal
+ke
+membuat
+.
+para
+menjadi
+melakukan
+anda
+pada
+/
+online
+7
+harga
+
+0
+
+hal
+memiliki
+(
+untuk
+tidak
+mereka
+hanya
+kamu
+seperti
+.
+
+apa
+sebagai
+tersebut
+lain
+ada
+.
+tidak
+permainan
+hal
+,
+hanya
+
+situs
+dapat
+kamu
+"
+para
+8
+nya
+
+dari
+6
+atau
+4
+tersebut
+ke
+
+menjadi
+lebih
+telah
+saja
+,
+lebih
+kita
+dengan
+nya
+e
+membuat
+sebagai
+3
+bisa
+adalah
+saya
+sangat
+anda
+atau
+dengan
+adalah
+hal
+kami
+1
+"
+orang
+
+-
+indonesia
+akan
+kamu
+untuk
+6
+beberapa
+saat
+kita
+nya
+saya
+uang
+7
+dengan
+
+pada
+saat
+d
+pada
+di
+
+juga
+dapat
+6
+di
+judi
+s
+bahwa
+ada
+/
+atau
+e
+.
+pada
+saya
+dengan
+yang
+nya
+sangat
+cara
+membuat
+adalah
+tidak
+kan
+nya
+e
+tersebut
+9
+mereka
+0
+ke
+adalah
+
+.
+yang
+k
+ke
+satu
+:
+m
+kamu
+tahun
+ini
+yang
+kamu
+i
+a
+k
+2
+5
+seperti
+1
+anda
+untuk
+0
+yang
+uang
+dan
+cara
+kan
+seperti
+baik
+0
+itu
+dan
+e
+tidak
+itu
+satu
+oleh
+online
+s
+dari
+dari
+5
+orang
+dengan
+dan
+dengan
+online
+1
+adalah
+i
+)
+(
+bagi
+untuk
+tentang
+situs
+-
+pada
+
+3
+kita
+menggunakan
+atau
+pemain
+bisa
+-
+atau
+orang
+pada
+,
+untuk
+oleh
+tersebut
+.
+bahwa
+online
+namun
+seperti
+slot
+di
+5
+para
+
+harus
+satu
+nya
+
+bisa
+mereka
+game
+-
+"
+harus
+dalam
+lebih
+:
+saja
+bahwa
+untuk
+sebagai
+
+namun
+,
+menjadi
+semua
+-
+anda
+ada
+namun
+yang
+telah
+memiliki
+
+lebih
+terbaik
+untuk
+lebih
+ada
+kami
+di
+mereka
+semua
+poker
+banyak
+ada
+dengan
+dan
+?
+juga
+,
+nya
+bisnis
+-
+.
+.
+kita
+saya
+orang
+mereka
+s
+bermain
+
+,
+baik
+tidak
+itu
+adalah
+5
+kami
+nya
+anda
+a
+a
+adalah
+0
+2
+untuk
+sangat
+karena
+dapat
+,
+1
+ini
+–
+dan
+harus
+t
+bisa
+mereka
+3
+:
+maka
+dalam
+s
+anda
+/
+akan
+dengan
+menjadi
+saya
+jadi
+0
+dalam
+bisnis
+saya
+bermain
+7
+untuk
+,
+1
+dapat
+sangat
+a
+online
+an
+ke
+
+5
+dan
+0
+banyak
+4
+0
+jadi
+akan
+pada
+2
+menjadi
+dapat
+kamu
+di
+
+u
+dan
+anda
+n
+untuk
+sudah
+online
+dan
+harus
+orang
+maka
+adalah
+tersebut
+dapat
+3
+8
+8
+mudah
+ada
+
+s
+juga
+besar
+ini
+
+,
+tidak
+dari
+an
+mudah
+untuk
+sangat
+0
+
+akan
+
+jika
+an
+bahwa
+4
+4
+bisa
+cara
+)
+dan
+oleh
+akan
+t
+anda
+
+dengan
+
+-
+k
+jika
+e
+yang
+hanya
+k
+saja
+)
+kita
+
+)
+online
+di
+:
+yang
+1
+)
+permainan
+untuk
+untuk
+pada
+terbaik
+kan
+,
+hanya
+bagi
+e
+online
+
+secara
+k
+bagi
+dalam
+7
+ke
+orang
+online
+
+2
+ada
+bisa
+akan
+karena
+saya
+
+lain
+ke
+atau
+/
+salah
+.
+d
+telah
+orang
+8
+nya
+seperti
+2
+di
+banyak
+juga
+sudah
+:
+atau
+memiliki
+adalah
+
+k
+dengan
+)
+anda
+i
+
+yang
+saya
+k
+adalah
+situs
+(
+dari
+baik
+dan
+judi
+dalam
+kami
+juga
+online
+para
+:
+ini
+orang
+4
+bisa
+d
+dengan
+dan
+bahwa
+dapat
+lain
+(
+2
+memiliki
+yang
+u
+oleh
+.
+atau
+permainan
+untuk
+,
+ada
+d
+nya
+adalah
+2
+atau
+yang
+beberapa
+menjadi
+mereka
+saya
+
+maka
+memiliki
+dalam
+oleh
+yang
+
+dan
+nya
+para
+bahwa
+-
+?
+dalam
+dapat
+
+atau
+memiliki
+cara
+ini
+di
+game
+a
+di
+
+dalam
+dengan
+9
+dapat
+lebih
+akan
+yang
+seperti
+untuk
+bisa
+d
+yang
+
+
+hal
+lebih
+karena
+menjadi
+online
+-
+ada
+indonesia
+s
+sangat
+untuk
+lebih
+2
+menjadi
+yang
+bisa
+-
+5
+di
+.
+kan
+,
+?
+salah
+ini
+-
+mereka
+menjadi
+yang
+sebagai
+e
+(
+pemain
+yang
+
+u
+,
+untuk
+
+saya
+yang
+an
+o
+sangat
+atau
+cara
+ke
+tersebut
+)
+jika
+?
+memiliki
+permainan
+jika
+k
+bahwa
+nya
+hal
+a
+kami
+5
+menjadi
+9
+
+-
+ada
+besar
+6
+s
+dalam
+
+anda
+karena
+poker
+semua
+bahwa
+akan
+sebagai
+dalam
+,
+di
+uang
+dan
+1
+
+a
+9
+bisa
+9
+untuk
+di
+3
+karena
+dari
+1
+
+/
+hal
+.
+yang
+tersebut
+4
+karena
+
+permainan
+yang
+saja
+para
+dan
+oleh
+?
+s
+sebagai
+uang
+3
+karena
+2
+harus
+akan
+permainan
+.
+.
+karena
+dan
+yang
+tidak
+beberapa
+s
+
+
+mereka
+"
+sebagai
+orang
+pada
+,
+telah
+indonesia
+0
+perlu
+an
+yang
+hal
+9
+.
+
+sangat
+bermain
+waktu
+menjadi
+anda
+satu
+atau
+u
+dari
+beberapa
+4
+1
+karena
+0
+7
+a
+)
+
+i
+itu
+atau
+maka
+9
+jika
+untuk
+juga
+8
+i
+setiap
+dengan
+harus
+ada
+bahwa
+karena
+sudah
+poker
+
+r
+"
+online
+2
+,
+banyak
+u
+ini
+3
+.
+dapat
+bahwa
+kita
+apa
+ini
+sangat
+
+indonesia
+9
+1
+s
+menjadi
+ini
+
+saya
+di
+i
+sudah
+jika
+4
+ini
+untuk
+tidak
+:
+(
+i
+
+,
+
+i
+satu
+
+untuk
+3
+dapat
+3
+t
+i
+dalam
+adalah
+ini
+ini
+e
+dalam
+judi
+dengan
+dan
+oleh
+untuk
+hal
+bahwa
+anda
+sebagai
+tidak
+pada
+mereka
+adalah
+mereka
+memiliki
+kita
+0
+di
+sebagai
+pada
+para
+7
+dapat
+
+,
+,
+kami
+semua
+8
+maka
+i
+dengan
+bisa
+yang
+:
+membuat
+bagi
+bermain
+mereka
+tidak
+karena
+e
+u
+baik
+bisa
+bisa
+tidak
+dalam
+dengan
+5
+
+tersebut
+ke
+kami
+,
+
+beberapa
+memiliki
+7
+-
+
+pada
+seperti
+2
+
+?
+
+atau
+di
+-
+beberapa
+3
+waktu
+1
+bisa
+untuk
+karena
+tidak
+-
+telah
+e
+online
+
+tersebut
+lebih
+adalah
+situs
+di
+online
+dalam
+beberapa
+ingin
+ke
+harus
+sangat
+itu
+anda
+menggunakan
+yang
+an
+tersebut
+,
+di
+atau
+saja
+e
+memiliki
+nya
+tidak
+hanya
+.
+:
+untuk
+oleh
+satu
+beberapa
+e
+dari
+6
+
+sebagai
+"
+8
+poker
+dari
+9
+i
+8
+?
+k
+kamu
+5
+pada
+
+dari
+saya
+orang
+sebagai
+dalam
+nya
+saat
+karena
+orang
+kita
+dalam
+anda
+yang
+dalam
+tahun
+
+ini
+menjadi
+s
+-
+baik
+d
+,
+sudah
+juga
+permainan
+online
+nya
+-
+kan
+3
+besar
+mereka
+:
+game
+untuk
+akan
+dapat
+7
+ini
+,
+saja
+)
+nya
+6
+online
+dari
+
+ke
+0
+d
+permainan
+,
+uang
+bisnis
+atau
+untuk
+pada
+,
+kamu
+/
+jika
+dengan
+kami
+memiliki
+saja
+permainan
+saat
+dan
+online
+yang
+u
+poker
+banyak
+satu
+yang
+nya
+atau
+atau
+saat
+9
+tidak
+di
+sudah
+kami
+5
+jika
+
+ke
+e
+ke
+yang
+nya
+
+anda
+m
+menggunakan
+sangat
+kamu
+dari
+e
+kan
+yang
+dari
+permainan
+
+jadi
+an
+pada
+banyak
+
+bahwa
+a
+anda
+permainan
+anda
+harus
+i
+karena
+a
+
+3
+bahwa
+
+ada
+baik
+di
+,
+8
+s
+anda
+yang
+8
+,
+ini
+mudah
+menjadi
+telah
+hanya
+
+an
+juga
+situs
+karena
+atau
+membuat
+untuk
+
+
+sangat
+yang
+dalam
+9
+seperti
+ada
+nya
+4
+e
+saja
+itu
+tidak
+cara
+s
+menjadi
+)
+
+lebih
+hanya
+5
+hal
+dalam
+nya
+juga
+hal
+yang
+untuk
+1
+permainan
+,
+9
+sebagai
+tidak
+s
+?
+di
+hanya
+.
+9
+dengan
+4
+sudah
+menggunakan
+dapat
+situs
+dengan
+sebagai
+telah
+bahwa
+di
+online
+di
+2
+i
+)
+pada
+tersebut
+online
+seperti
+yang
+cara
+cara
+sebagai
+beberapa
+kita
+bisa
+anda
+dapat
+untuk
+ini
+itu
+sangat
+online
+judi
+ini
+maka
+online
+ke
+adalah
+tidak
+dapat
+besar
+ke
+cara
+mereka
+dari
+kamu
+atau
+:
+5
+yang
+menggunakan
+lain
+banyak
+a
+saya
+oleh
+)
+permainan
+bisa
+)
+tidak
+untuk
+nya
+nya
+.
+/
+0
+di
+saya
+di
+saat
+di
+ada
+satu
+judi
+u
+telah
+poker
+bisa
+beberapa
+situs
+adalah
+saya
+permainan
+
+-
+dengan
+para
+akan
+para
+anda
+banyak
+itu
+lebih
+juga
+dan
+s
+an
+karena
+namun
+9
+banyak
+online
+adalah
+
+
+dalam
+dengan
+dengan
+cara
+membuat
+bisnis
+judi
+seperti
+dalam
+orang
+ke
+mendapatkan
+membuat
+orang
+7
+o
+saja
+menjadi
+k
+hanya
+6
+jika
+nya
+bisa
+-
+4
+8
+
+.
+hal
+dari
+a
+cara
+.
+"
+tidak
+s
+,
+bisa
+karena
+permainan
+dengan
+ada
+beberapa
+semua
+kita
+.
+dari
+kita
+sebagai
+9
+dalam
+karena
+banyak
+saja
+atau
+dari
+adalah
+2
+menggunakan
+beberapa
+situs
+kamu
+menjadi
+dan
+
+nya
+juga
+(
+online
+
+cara
+akan
+memiliki
+baik
+hal
+situs
+4
+2
+:
+:
+orang
+juga
+yang
+oleh
+akan
+lain
+ini
+saya
+9
+untuk
+dalam
+lain
+u
+untuk
+memiliki
+dengan
+ke
+dengan
+yang
+ada
+1
+satu
+dan
+2
+
+poker
+dan
+
+yang
+adalah
+,
+game
+bahwa
+akan
+dengan
+orang
+ada
+uang
+satu
+0
+ke
+kita
+besar
+.
+-
+yang
+yang
+9
+permainan
+
+mereka
+dengan
+dapat
+0
+orang
+nya
+
+"
+harus
+an
+hanya
+
+jika
+4
+t
+tersebut
+7
+banyak
+beberapa
+0
+baik
+banyak
+yang
+itu
+dari
+i
+jika
+n
+.
+
+nya
+1
+sangat
+dan
+lebih
+ke
+7
+memiliki
+saya
+situs
+adalah
+baik
+sangat
+online
+cara
+2
+m
+
+dengan
+situs
+bahwa
+
+d
+2
+5
+situs
+apa
+dari
+lebih
+untuk
+tersebut
+baik
+0
+8
+game
+satu
+an
+hal
+judi
+5
+9
+jika
+4
+6
+i
+uang
+
+dalam
+yang
+anda
+
+satu
+a
+pada
+dan
+bagi
+secara
+cara
+bisa
+sudah
+satu
+dan
+ingin
+bisa
+8
+saja
+(
+bisa
+salah
+beberapa
+
+-
+yang
+4
+9
+?
+tidak
+baik
+,
+-
+kamu
+karena
+5
+dengan
+-
+judi
+9
+.
+anda
+situs
+9
+saya
+kamu
+cara
+sangat
+akan
+
+cara
+menjadi
+5
+7
+dan
+
+tersebut
+sangat
+karena
+besar
+bisa
+yang
+dalam
+atau
+
+di
+1
+dengan
+d
+/
+(
+-
+banyak
+telah
+uang
+uang
+jika
+online
+dengan
+0
+yang
+semua
+
+pada
+saya
+kita
+dalam
+bermain
+situs
+-
+?
+mendapatkan
+sudah
+satu
+7
+bahwa
+saja
+hal
+di
+online
+6
+sangat
+harus
+t
+bermain
+yang
+0
+tidak
+dari
+
+online
+permainan
+hal
+0
+yang
+nya
+yang
+dalam
+oleh
+1
+memiliki
+untuk
+yang
+perlu
+8
+satu
+dan
+salah
+/
+bahwa
+5
+
+beberapa
+dan
+bermain
+bisa
+1
+dapat
+dengan
+e
+online
+dari
+saat
+n
+nya
+untuk
+
+m
+bisa
+permainan
+banyak
+a
+secara
+jadi
+oleh
+adalah
+poker
+dari
+5
+mereka
+dan
+.
+dapat
+baik
+dari
+jika
+seperti
+i
+i
+untuk
+bisnis
+lebih
+8
+menjadi
+kita
+pada
+di
+7
+
+seperti
+online
+harus
+dari
+.
+.
+kita
+akan
+u
+dan
+judi
+
+waktu
+setiap
+bermain
+t
+k
+seperti
+karena
+hanya
+di
+untuk
+
+/
+k
+(
+sangat
+tidak
+untuk
+
+9
+"
+:
+akan
+tidak
+seperti
+judi
+juga
+di
+untuk
+s
+lebih
+permainan
+sangat
+sudah
+"
+)
+hal
+e
+?
+anda
+5
+harus
+3
+k
+?
+secara
+oleh
+ada
+0
+s
+oleh
+untuk
+dari
+dengan
+u
+seperti
+situs
+(
+adalah
+juga
+dari
+yang
+4
+itu
+e
+1
+kamu
+besar
+bisa
+cara
+oleh
+saya
+6
+banyak
+ke
+ke
+di
+s
+(
+3
+5
+
+akan
+dapat
+sangat
+uang
+telah
+"
+4
+seperti
+bahwa
+ke
+,
+pada
+ada
+ada
+bisa
+an
+sangat
+
+dan
+situs
+
+bahwa
+5
+dari
+memiliki
+harus
+hanya
+p
+menggunakan
+memiliki
+saja
+lain
+2
+pada
+
+dalam
+untuk
+dalam
+i
+dari
+menjadi
+:
+salah
+perlu
+6
+dan
+salah
+baik
+)
+kamu
+"
+orang
+salah
+cara
+i
+ke
+permainan
+judi
+s
+cara
+menjadi
+jika
+a
+dan
+dan
+lebih
+
+banyak
+hanya
+yang
+(
+dengan
+p
+slot
+bahwa
+i
+0
+oleh
+namun
+sebagai
+pada
+k
+mereka
+bisa
+di
+"
+slot
+adalah
+
+a
+mereka
+ke
+dan

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.49805939197540283,
+    "predict_rouge1": 0.4186,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4199,
+    "predict_rougeLsum": 0.4194,
+    "predict_runtime": 1669.8099,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 2.238,
+    "predict_steps_per_second": 0.28
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 6.55200095561257e+16,
+    "train_loss": 0.38020934802358836,
+    "train_runtime": 9310.5317,
+    "train_samples": 14290,
+    "train_samples_per_second": 7.674,
+    "train_steps_per_second": 1.919
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 17865,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 5.893374919891357,
+      "learning_rate": 4e-05,
+      "loss": 0.6352,
+      "step": 3573
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.46136122941970825,
+      "eval_rouge1": 0.3871,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3846,
+      "eval_rougeLsum": 0.3884,
+      "eval_runtime": 336.5055,
+      "eval_samples_per_second": 2.22,
+      "eval_steps_per_second": 0.279,
+      "step": 3573
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 2.110297679901123,
+      "learning_rate": 3e-05,
+      "loss": 0.4361,
+      "step": 7146
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4357260465621948,
+      "eval_rouge1": 0.3574,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3543,
+      "eval_rougeLsum": 0.3544,
+      "eval_runtime": 327.4958,
+      "eval_samples_per_second": 2.281,
+      "eval_steps_per_second": 0.287,
+      "step": 7146
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 2.471202850341797,
+      "learning_rate": 2e-05,
+      "loss": 0.3391,
+      "step": 10719
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4478732943534851,
+      "eval_rouge1": 0.3973,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3975,
+      "eval_rougeLsum": 0.4009,
+      "eval_runtime": 333.0142,
+      "eval_samples_per_second": 2.243,
+      "eval_steps_per_second": 0.282,
+      "step": 10719
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 4.917109966278076,
+      "learning_rate": 1e-05,
+      "loss": 0.2686,
+      "step": 14292
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4638811945915222,
+      "eval_rouge1": 0.4113,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4102,
+      "eval_rougeLsum": 0.4115,
+      "eval_runtime": 334.1059,
+      "eval_samples_per_second": 2.236,
+      "eval_steps_per_second": 0.281,
+      "step": 14292
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 0.981204092502594,
+      "learning_rate": 0.0,
+      "loss": 0.2221,
+      "step": 17865
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.48620468378067017,
+      "eval_rouge1": 0.3867,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3833,
+      "eval_rougeLsum": 0.386,
+      "eval_runtime": 329.3468,
+      "eval_samples_per_second": 2.268,
+      "eval_steps_per_second": 0.285,
+      "step": 17865
+    },
+    {
+      "epoch": 5.0,
+      "step": 17865,
+      "total_flos": 6.55200095561257e+16,
+      "train_loss": 0.38020934802358836,
+      "train_runtime": 9310.5317,
+      "train_samples_per_second": 7.674,
+      "train_steps_per_second": 1.919
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 17865,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 6.55200095561257e+16,
+  "train_batch_size": 4,
+  "trial_name": null,
+  "trial_params": null
+}