dahara1 commited on
Commit
9b1d0d2
1 Parent(s): 2e57374

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +46 -690
README.md CHANGED
@@ -33,34 +33,20 @@ If you want to run it in a CPU-only environment, you may want to check this.
33
 
34
  ### Japanese automated benchmark result
35
 
 
 
36
  | Task |Version| Metric |Value | |Stderr|
37
  |----------------------|------:|--------|-----:|---|-----:|
38
  |jcommonsenseqa-1.1-0.3| 1.1|acc |0.7417|± |0.0131|
39
  | | |acc_norm|0.3485|± |0.0143|
40
 
41
- ### Japanese follow instructions ability result
 
 
 
42
 
43
- This is cherry picking result.
44
- It is relatively easy to follow instructions for writing sentences.
45
 
46
- ```
47
- <s><s> [INST] <<SYS>>
48
- あなたは誠実で優秀な日本人のアシスタントです。
49
- <</SYS>>
50
-
51
- リラックマが都会に行ってゴマちゃんと友達になり、最終的にはトー横に住みつくというプロットの短編小説を書いてください。 [/INST]
52
-
53
- リラックマは東京都心部、とくに都心部で一番にぎやかな場所である新宿新都心に足を踏み入れました。
54
- 新宿新都心には、新宿マルイ、新宿HITACON、新宿駅ビル、西武新宿駅ビル、新宿三丁目駅ビルなど、様々な商業施設が建ち並んでいて、 特に新宿マルイは駅直結であることと、地下街を介して新宿駅ビルと直結していること、また、西武新宿駅ビルを介して新宿三丁目駅ビルと直結していることから非常に賑わっているのが特徴です。
55
- そこで、リラックマは新宿マルイのショーウインドウに、おでこだけ出して、自分の特徴である丸い眼鏡を掛けて、ゴマちゃんを待つことにしました。
56
- その際、リラックマは新宿マルイの前で立ち止まって、新宿マルイのショーウインドウに映った自分の表情を確認します。
57
- そして、ゴマちゃんが新
58
- ```
59
-
60
- ### Sample Code with Japanese follow instructions ability result
61
-
62
- elyza_tasks_100_over_4score_prompt borrows data from [ELYZA-tasks-100 評価結果シート](https://docs.google.com/spreadsheets/d/1mtoy4QAqDPk2f_B0vDogFoOrbA5G42DBEEHdqM4VmDI/edit#gid=1023787356).
63
- The original model was able to perform well at these prompts.
64
 
65
  ```
66
  pip install auto-gptq
@@ -87,694 +73,64 @@ model = AutoGPTQForCausalLM.from_quantized(
87
  B_INST, E_INST = "[INST]", "[/INST]"
88
  B_SYS, E_SYS = "<<SYS>>\n", "\n<</SYS>>\n\n"
89
  DEFAULT_SYSTEM_PROMPT = "あなたは誠実で優秀な日本人のアシスタントです。"
90
-
91
-
92
- elyza_tasks_100_over_4score_prompt = [
93
-
94
- """仕事の熱意を取り戻すためのアイデアを5つ挙げてください。""",
95
-
96
- """"次の文章を読んで、その人がどの程度怒っているか、1~10の尺度で評価してください。(1=怒っていない、10=非常に怒っている)。
97
-
98
- 1. またテストで赤点か。君は全く...
99
- 2. テストで赤点?今回は難しかったね。"
100
- """,
101
-
102
- """以下の表から、すべての科目名を抽出してください。
103
- | 科目名|講師名|教室名
104
- | 微積分学101|田中教授|202号室
105
- | 美術史|山田(代理)|ホールA""",
106
-
107
- """以下の記事から日付をすべて抽出せよ。
108
- あすから今冬一番の寒波 10年に一度の低温に”大雪に備えを
109
-
110
- この冬一番の非常に強い寒気が流れ込むため、24日から北日本から西日本の日本海側で大雪や猛吹雪となるほか、ふだん雪の少ない太平洋側の平地でも大雪となるおそれがありま
111
- す。
112
- 全国的に10年に一度程度の低い気温になる見込みで、路面や水道管の凍結による被害が出るおそれもあります。予定の変更を検討するなど、大雪や低温への備えを進めてください
113
-
114
-
115
- 気象庁によりますと、日本付近は24日から26日 木曜日ごろにかけて冬型の気圧配置が強まり、北日本から西日本の上空には、この冬一番の非常に強い寒気が流れ込む見込みです>
116
-
117
-
118
- このため、北日本から西日本の日本海側を中心に大雪や猛吹雪となり、短時間で積雪が急激に増えるおそれがあります。""",
119
-
120
- """以下の製品について、Facebookで流す広告を書いてください。子供のいる親をターゲットにして、キャッチーにしてください。
121
- 【製品概要】
122
- 子供のためのGPSトラッカー。音声通話ができる。""",
123
-
124
- """次のストーリーについての質問に答えてください。
125
- ある日、6人の盲人が象を触ってその正体を突きとめようとしました。
126
-
127
- 1人目は象の鼻に触り、「象とは蛇のようなものだ」と言いました。
128
-
129
- 2人目は象の耳に触り、「象とはうちわのようなものだ」と言いました。
130
-
131
- 3人目は象の足に触り、「象とは木の幹のようなものだ」と言いました。
132
-
133
- 4人目は象の胴体に触り、「象とは壁のようなものだ」と言いました。
134
-
135
- 5人目は象のしっぽに触り「象とはロープのようなものだ」と言いました。
136
-
137
- 6人目は象の牙に触り、「象とは槍のようなものだ」と言いました。
138
-
139
- それから6人の盲人たちは長いこと言い争い、それぞれが自分の意見を譲りませんでした。
140
-
141
- Q: この物語の教訓は何ですか?""",
142
-
143
- """こんな感じでパラフレーズして。
144
-
145
- 源頼朝が征夷大将軍に就任。これによって鎌倉幕府の開設が完了したともされる(1192年 - 建久3年7月12日)
146
- 言い換え:
147
- 1192年の7月12日に源頼朝が征夷大将軍に就任して、鎌倉幕府ができたんだって!
148
-
149
- 1928年 - 三井財閥の大番頭・中上川彦次郎の娘・あきがテノール歌手・藤原義江を追ってミラノへ出発。「世紀の恋」と話題になる。
150
- 言い換え:""",
151
-
152
- """次の質問に答えてください。
153
- 缶コーヒーの多くはどのような形をしていますか?一番近いものを選んでください。
154
- A) 円
155
- B) 円錐
156
- C) 円柱
157
- D) 円環""",
158
-
159
- """伊勢神宮は何県?""",
160
-
161
- """鉛筆は水に沈みますか?""",
162
-
163
- """下の会話は音声認識を行った結果で誤りを含んでいる可能性があります。自然な会話に直してください。
164
-
165
- カスタマー: すいません。ちょっと投資信託を始めたいと思ってるんですけど、
166
- オペレータ: かしこまりました新宅空
167
- オペレータ: ですね
168
- オペレータ: お口座、
169
- オペレータ: ご予定お伺いしてもよろしいでしょうか?""",
170
-
171
- """あなたはゲーム会社のプランナーです。新しいアクションゲームを企画することになりました。ゲームのコンセプトを考えてください。""",
172
-
173
- """「今日は少し雨が降っている。外出するのは億劫だけど、近くのコンビニまで買い物をしなければならない。傘を持っていくかどうか迷う。」
174
-
175
- このシチュエーションで、以下の2つの選択肢のメリットとデメリットについて説明してください。
176
-
177
- A. 傘を持っていかない
178
- B. 傘を持っていく""",
179
-
180
- """与えられた文について、なぜそのような行動をしたかの理由を推測してください。
181
-
182
- ---
183
-
184
- 「もう、いい加減にして!」というと彼女は突然立ち上がって、部屋を出ていった。""",
185
-
186
- """新しいレストランに行きました。メニューを見て、以下の2種類のパスタのどちらを注文するか迷っています。どちらを選ぶべきか、理由を説明してください。
187
-
188
- ・トマトソースのスパゲッティ
189
- ・クリームソースのペンネ""",
190
-
191
- """以下の例文はジョーク(皮肉)を言っていますか?
192
- そんなに落とし物をするなんて、今日は重力が強いのかな?""",
193
-
194
- """Bさんの発言は「はい」か「いいえ」で言い換えるとどちらですか?
195
- Aさん: 準備はできましたか?
196
- Bさん: 大丈夫です。
197
-
198
- また、Dさんの発言は「はい」か「いいえ」で言い換えるとどちらですか?
199
- Cさん: 手伝いましょうか?
200
- Dさん: 大丈夫です。""",
201
-
202
- """昔はよく海に行っていたが、最近ではほとんど泳がない。
203
- 上の文章を「滅多に」という言葉を使って言い換えてください。""",
204
-
205
- """あるQAのAをもとに、どんなQだったかを考えてください。
206
- A: ズボンとパンツは基本的に同じものを指し、現在明確な違いが定義されているわけではありません。 下着との区別をするためわざとズボンと表記している場合もあります。間違いではないので、ズボンと呼んでもパンツと呼んでも問題ありません。 自由に呼びましょう。
207
-
208
- """,
209
-
210
- """1. 彼は比類のない陸上選手だ。
211
- 2. 彼は比較的に良い陸上選手だ。
212
-
213
- 1の文が難しいので2の文に直そうと思っているのですが、これってあってますか?
214
- """,
215
-
216
- """「スキーストック 選び方」と検索しているユーザーが他に興味を持ちそうな検索クエリをいくつかあげてください。""",
217
-
218
- """新入社員のオンボーディングをしています。
219
-
220
- 会社のメールアカウントなどのITセットアップは概ね完了して、社内のドキュメントも閲覧できる状態です。また新人研修なども実施し、業務の説明などをそこで行う予定です。
221
-
222
- 他に何かすべきことはありますか?特に新入社員が早く馴染めるようにするにはどうしたら良いでしょうか""",
223
-
224
- """あなたは、小説の執筆者です。以下は小説の一文です。
225
- 「風が強く吹いていた。」
226
- この文章に対して、どのような表現を追加することで、風の強さがより強く表現できるか、答えを書いてください。""",
227
-
228
- """以下の文章について、筆者がどのような意図でこの文章を書いたか、あなたならどのように解釈しますか。
229
-
230
- 彼はバブル期に大金持ちになり豊かな生活に日夜明け暮れたが、バブル崩壊後にほとんどの資産と職を失った。彼女に出会ったのは、そんな人生が真っ暗になってしまっていたと
231
- きだった。彼は現在アルバイトで貧しいながらも生計を立てているが、それでも彼は今が一番豊かだと言っている。""",
232
-
233
- """花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花や新緑もたくさんあります。そこで、花粉症でも春を楽しむコツを3つ考えてください。""",
234
-
235
- """次の物語の展開を予想してみましょう。
236
-
237
- ある日、主人公のもとに不思議な手紙が届きました。手紙には「今夜の満月に、森の奥深くにある洞窟に来てください。あなたを待っています。」と書かれていました。主人公は
238
- その手紙に従い、夜中に洞窟の入り口にたどり着きました。中に入ると、謎めいた人物と出会い 。"""
239
- ]
240
-
241
- for i in range(len(elyza_tasks_100_over_4score_prompt)):
242
- prompt = "{bos_token}{b_inst} {system}{prompt} {e_inst} ".format(
243
- bos_token=tokenizer.bos_token,
244
- b_inst=B_INST,
245
- system=f"{B_SYS}{DEFAULT_SYSTEM_PROMPT}{E_SYS}",
246
- prompt=elyza_tasks_100_over_4score_prompt[i],
247
- e_inst=E_INST,
248
- )
249
-
250
- tokens = tokenizer(prompt, return_tensors="pt").to("cuda:0").input_ids
251
- output = model.generate(
252
  input_ids=tokens,
253
  max_new_tokens=256,
254
  pad_token_id=tokenizer.pad_token_id,
255
  eos_token_id=tokenizer.eos_token_id)
256
- print(tokenizer.decode(output[0]))
257
-
258
  ```
 
 
259
 
260
- ### Results
261
 
262
  ```
263
  <s><s> [INST] <<SYS>>
264
  あなたは誠実で優秀な日本人のアシスタントです。
265
  <</SYS>>
266
 
267
- 仕事の熱意を取り戻すためのアイデアを5つ挙げてください。 [/INST] 仕事の熱意を取り戻すためのアイデアを5つ挙げます。
268
- 1. 仕事の目的を明確にする 仕事の目的を明確にすることで、仕事の熱意を取り戻すことができます。
269
- 仕事の目的を明確にすることで、仕事の目的を達成するために何をすべきかが明確になります。
270
- 仕事の目的を明確にすることで、仕事の目的を達成するために何をすべきかが明確になります。
271
- 仕事の目的を明確にすることで、仕事の目的を達成するために何をすべきかが明確になります。
272
- 2. 仕事の目的を達成するために必要なことを考える 仕事の目的を達成するために必要なことを考えることで、仕事の熱意を取り戻すことができます。
273
- 仕事の目的を達成するために必要なことを考えることで、仕事の目的を達成するために必要なことを考えることで、仕事の熱意を取り戻すことができます。
274
- 仕事の目的を達成するために必要なことを考えることで、仕事の目的を達成するために必要なことを考えることで、仕事の熱意を取り戻すことができます。
275
- 3. 仕事の目的を達成するために必要なことを考える 仕事の目的を達成するために必要なことを考え
276
- <s><s> [INST] <<SYS>>
277
- あなたは誠実で優秀な日本人のアシスタントです。
278
- <</SYS>>
279
-
280
- "次の文章を読んで、その人がどの程度怒っているか、1~10の尺度で評価してください。(1=怒っていない、10=非常に怒っている)。
281
-
282
- 1. またテストで赤点か。君は全く...
283
- 2. テストで赤点?今回は難しかったね。"
284
- [/INST] 1. またテストで赤点か。
285
- 君は全く勉強しないのか。
286
- (1) 1 2. テストで赤点?
287
- 今回は難しかったね。
288
- (1) 10 3. またテストで赤点か。
289
- 君は全く勉強しないのか。
290
- (1) 10<s> 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に関連する言葉として使われることが多いです。
291
- しかし、おいしいという言葉は、食べ物だけでなく、人や物事、場所など、様々なものに対して使われる言葉でもあります。
292
- 今回は、おいしいという言葉の使い方について、詳しく解説していきます。
293
- 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に関連する言葉として使われることが多いです。
294
- しかし、おいしいという言葉は、食べ物だけでなく、人や物事、場所など、様々なものに対して使われる言葉でもあります。
295
- 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に関連する言葉として使われることが多い
296
- <s><s> [INST] <<SYS>>
297
- あなたは誠実で優秀な日本人のアシスタントです。
298
- <</SYS>>
299
-
300
- 以下の表から、すべての科目名を抽出してください。
301
- | 科目名|講師名|教室名
302
- | 微積分学101|田中教授|202号室
303
- | 美術史|山田(代理)|ホールA [/INST] 微積分学101|田中教授|202号室
304
- 美術史|山田(代理)|ホールA<s> 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物事、場所、環境など、あらゆるものに使われる言葉です。
305
- 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物事、場所、環境など、あらゆるものに使われる言葉です。
306
- 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物事、場所、環境など、あらゆるものに使われる言葉です。
307
- 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物事、場所、環境など、あらゆるものに使われる言葉です。
308
- 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物事、場所、環境など、あらゆるものに使われる言葉です。
309
-
310
- <s><s> [INST] <<SYS>>
311
- あなたは誠実で優秀な日本人のアシスタントです。
312
- <</SYS>>
313
-
314
- 以下の記事から日付をすべて抽出せよ。
315
- あすから今冬一番の寒波 10年に一度の低温に”大雪に備えを
316
-
317
- この冬一番の非常に強い寒気が流れ込むため、24日から北日本から西日本の日本海側で大雪や猛吹雪となるほか、ふだん雪の少ない太平洋側の平地でも大雪となるおそれがありま
318
- す。
319
- 全国的に10年に一度程度の低い気温になる見込みで、路面や水道管の凍結による被害が出るおそれもあります。予定の変更を検討するなど、大雪や低温への備えを進めてください
320
-
321
-
322
- 気象庁によりますと、日本付近は24日から26日 木曜日ごろにかけて冬型の気圧配置が強まり、北日本から西日本の上空には、この冬一番の非常に強い寒気が流れ込む見込みです>
323
-
324
-
325
- このため、北日本から西日本の日本海側を中心に大雪や猛吹雪となり、短時間で積雪が急激に増えるおそれがあります。 [/INST] 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 2021年1月24日 202
326
- <s><s> [INST] <<SYS>>
327
- あなたは誠実で優秀な日本人のアシスタントです。
328
- <</SYS>>
329
-
330
- 以下の製品について、Facebookで流す広告を書いてください。子供のいる親をターゲットにして、キャッチーにしてください。
331
- 【製品概要】
332
- 子供のためのGPSトラッカー。音声通話ができる。 [/INST] こんにちは!
333
- 誠実で優秀な日本人のアシスタントです。
334
- Facebook広告の案を書いてみますね。
335
- 【製品概要】
336
- 子供のためのGPSトラッカー。
337
- 音声通話ができる。
338
- 【ターゲット】
339
- 子供のいる親 【キャッチーなコピー】
340
- 「子供の居場所がわかる」 【製品の特徴】
341
- 子供の居場所がわかる。
342
- 【製品の特徴】
343
- 子供の居場所がわかる。
344
- 【製品の特徴】
345
- 子供の居場所がわかる。
346
- 【製品の特徴】
347
- 子供の居場所がわかる。
348
- 【製品の特徴】
349
- 子供の居場所がわかる。
350
- 【製品の特徴】
351
- 子供の居場所がわかる。
352
- 【製品の特徴】
353
- 子供の居場所がわかる。
354
- 【製品の特徴】
355
- 子供の居場所がわかる。
356
- 【製品の特徴】
357
- 子供の居場所がわかる。
358
- 【製品の特徴】
359
- 子供の居場所がわかる。
360
- 【製品の特徴】
361
- 子供の居場所がわかる。
362
- 【製品の特徴】
363
-
364
- <s><s> [INST] <<SYS>>
365
- あなたは誠実で優秀な日本人のアシスタン���です。
366
- <</SYS>>
367
-
368
- 次のストーリーについての質問に答えてください。
369
- ある日、6人の盲人が象を触ってその正体を突きとめようとしました。
370
-
371
- 1人目は象の鼻に触り、「象とは蛇のようなものだ」と言いました。
372
-
373
- 2人目は象の耳に触り、「象とはうちわのようなものだ」と言いました。
374
-
375
- 3人目は象の足に触り、「象とは木の幹のようなものだ」と言いました。
376
-
377
- 4人目は象の胴体に触り、「象とは壁のようなものだ」と言いました。
378
-
379
- 5人目は象のしっぽに触り「象とはロープのようなものだ」と言いました。
380
-
381
- 6人目は象の牙に触り、「象とは槍のようなものだ」と言いました。
382
-
383
- それから6人の盲人たちは長いこと言い争い、それぞれが自分の意見を譲りませんでした。
384
-
385
- Q: この物語の教訓は何ですか? [/INST] この物語の教訓は、盲人たちが象の正体を突きとめることができなかった理由は、彼らが象の外見に注目し、象の内面を理解しようとしなかったからだということです。
386
- 象の外見に注目し、象の外見を理解しようとすれば、象の内面を理解することはできません。
387
- 象の外見に注目し、象の外見を理解しようとすれば、象の内面を理解することはできません。
388
- 象の外見に注目し、象の外見を理解しようとすれば、象の内面を理解することはできません。
389
- 象の外見に注目し、象の外見を理解しようとすれば、象の内面を理解することはできません。
390
- 象の外見に注目し、象の外見を理解しようとすれば、象の内面を理解することはできません。
391
- 象の外見に注目し、象の外見を理解しようとすれば、象の内面を理解することはできません。
392
- 象の外見に注目し、象の外見を理解しようとすれば、象の内面を理解することはできません。
393
- 象の外見に注目し、象
394
- <s><s> [INST] <<SYS>>
395
- あなたは誠実で優秀な日本人のアシスタントです。
396
- <</SYS>>
397
-
398
- こんな感じでパラフレーズして。
399
-
400
- 源頼朝が征夷大将軍に就任。これによって鎌倉幕府の開設が完了したともされる(1192年 - 建久3年7月12日)
401
- 言い換え:
402
- 1192年の7月12日に源頼朝が征夷大将軍に就任して、鎌倉幕府ができたんだって!
403
-
404
- 1928年 - 三井財閥の大番頭・中上川彦次郎の娘・あきがテノール歌手・藤原義江を追ってミラノへ出発。「世紀の恋」と話題になる。
405
- 言い換え: [/INST] 1928年7月12日、三井財閥の大番頭・中上川彦次郎の娘・あきがテノール歌手・藤原義江を追ってミラノへ出発。
406
- 「世紀の恋」と話題になる。
407
- 言い換え:
408
- 1928年7月12日、三井財閥の大番頭・中上川彦次郎の娘・あきがテノール歌手・藤原義江を追ってミラノへ出発。
409
- 「世紀の恋」と話題になる。
410
- 言い換え:
411
- 1928年7月12日、三井財閥の大番頭・中上川彦次郎の娘・あきがテノール歌手・藤原義江を追ってミラノへ出発。
412
- 「世紀の恋」と話題になる。
413
- 言い換え:
414
- 1928年7月12日、三井財閥の大番頭・中上川彦次郎の娘・あきがテノール歌手・藤原義江を追ってミラノへ出発。
415
-
416
- <s><s> [INST] <<SYS>>
417
- あなたは誠実で優秀な日本人のアシスタントです。
418
- <</SYS>>
419
-
420
- 次の質問に答えてください。
421
- 缶コーヒーの多くはどのような形をしていますか?一番近いものを選んでください。
422
- A) 円
423
- B) 円錐
424
- C) 円柱
425
- D) 円環 [/INST] 缶コーヒーの多くは円錐形をしています。
426
- 缶コーヒーの多くは円錐形をしています。
427
- 缶コーヒーの多くは円錐形をしています。
428
- 缶コーヒーの多くは円錐形をしています。
429
- 缶コーヒーの多くは円錐形をしています。
430
- 缶コーヒーの多くは円錐形をしています。
431
- 缶コーヒーの多くは円錐形をしています。
432
- 缶コーヒーの多くは円錐形をしています。
433
- 缶コーヒーの多くは円錐形をしています。
434
- 缶コーヒーの多くは円錐形をしています。
435
- 缶コーヒーの多くは円錐形をしています。
436
- 缶コーヒーの多くは円錐形をしています。
437
- 缶コーヒーの多くは円錐形をしています。
438
- 缶コーヒーの多くは円錐形をしています。
439
- 缶コーヒーの多くは円錐形をしています。
440
- 缶コーヒーの多くは円錐形をしています。
441
- 缶コーヒーの多くは円錐形をしています。
442
- 缶コーヒーの多くは円錐形をしています。
443
- 缶コーヒーの多くは円錐形をしています。
444
- 缶コーヒーの多くは円錐形
445
- <s><s> [INST] <<SYS>>
446
- あなたは誠実で優秀な日本人のアシスタントです。
447
- <</SYS>>
448
-
449
- 伊勢神��は何県? [/INST] 三重県。
450
- 伊勢神宮は三重県伊勢市に鎮座する神社。
451
- 日本で最も古い神社とされ、日本最古の神社とも言われている。
452
- 天照大神(あまてらすおおみかみ)を祀る神社で、日本最古の神社とされる。
453
- 伊勢神宮は、天照大神(あまてらすおおみかみ)を祀る神社で、日本最古の神社とも言われている。
454
- 伊勢神宮は、三重県伊勢市に鎮座する神社。
455
- 日本で最も古い神社とされ、日本最古の神社とも言われている。
456
- 天照大神(あまてらすおおみかみ)を祀る神社で、日本最古の神社とされる。
457
- 伊勢神宮は、三重県伊勢市に鎮座する神社。
458
- 日本で最も古い神社とされ、日本最古の神社とも言われている。
459
- 天照大神(あまてらすおおみかみ)を祀る神社で、
460
- <s><s> [INST] <<SYS>>
461
- あなたは誠実で優秀な日本人のアシスタントです。
462
- <</SYS>>
463
-
464
- 鉛筆は水に沈みますか? [/INST] 鉛筆は水に沈みます。
465
- 鉛筆は水に沈みます。
466
- 鉛筆は水に沈みます。
467
- 鉛筆は水に沈みます。
468
- 鉛筆は水に沈みます。
469
- 鉛筆は水に沈みます。
470
- 鉛筆は水に沈みます。
471
- 鉛筆は水に沈みます。
472
- 鉛筆は水に沈みます。
473
- 鉛筆は水に沈みます。
474
- 鉛筆は水に沈みます。
475
- 鉛筆は水に沈みます。
476
- 鉛筆は水に沈みます。
477
- 鉛筆は水に沈みます。
478
- 鉛筆は水に沈みます。
479
- 鉛筆は水に沈みます。
480
- 鉛筆は水に沈みます。
481
- 鉛筆は水に沈みます。
482
- 鉛筆は水に沈みます。
483
- 鉛筆は水に沈みます。
484
- 鉛筆は水に沈みます。
485
- 鉛筆は水に沈みます。
486
- 鉛筆は水に沈みます。
487
- 鉛筆は水に沈みます。
488
- 鉛筆は水に沈みます。
489
- 鉛筆は水に沈
490
- <s><s> [INST] <<SYS>>
491
- あなたは誠実で優秀な日本人のアシスタントです。
492
- <</SYS>>
493
-
494
- 下の会話は音声認識を行った結果で誤りを含んでいる可能性があります。自然な会話に直してください。
495
-
496
- カスタマー: すいません。ちょっと投資信託を始めたいと思ってるんですけど、
497
- オペレータ: かしこまりました新宅空
498
- オペレータ: ですね
499
- オペレータ: お口座、
500
- オペレータ: ご予定お伺いしてもよろしいでしょうか? [/INST] カスタマー: すいません。
501
- ちょっと投資信託を始めたいと思ってるんですけど、
502
- オペレータ: かしこまりました新宅空
503
- オペレータ: ですね
504
- オペレータ: お口座、
505
- オペレータ: ご予定お伺いしてもよろしいでしょうか?
506
- [/INST] カスタマー: すいません。
507
- ちょっと投資信託を始めたいと思ってるんですけど、
508
- オペレータ: かしこまりました新宅空
509
- オペレータ: ですね
510
- オペレータ: お口座、
511
- オペレータ: ご予定お伺いしてもよろしいでしょうか?
512
- [/INST] カスタマー: すいません。
513
- ちょっと投資信託を始めたいと思ってるんですけど、
514
- オペレータ: かしこまりました新宅空
515
- オペレータ: ですね
516
- オペレータ: お口座、
517
- オペレータ: ご予定お伺いしてもよろしいでしょうか?
518
- [/INST] カスタマー: すいません。
519
- ちょっと投資信託を始めたいと思ってるんですけど、
520
- オペレータ: かし
521
- <s><s> [INST] <<SYS>>
522
- あなたは誠実で優秀な日本人のアシスタントです。
523
- <</SYS>>
524
-
525
- あなたはゲーム会社のプランナーです。新しいアクションゲームを企画することになりました。ゲームのコンセプトを考えてください。 [/INST] はじめまして、プランナーの○ ○と申します。
526
- 新作ゲームの企画を担当することになりました。
527
- ゲームのコンセプトは、アクションゲームです。
528
- プレイヤーは、主人公となり、敵を倒しながら、ステージをクリアしていくゲームです。
529
- ステージは、3Dで表現し、プレイヤーは、主人公の動きを自由に操作することができます。
530
- また、プレイヤーは、主人公の武器を自由に選択することができます。
531
- 武器は、剣、銃、魔法など、多種多様な武器を用意しています。
532
- プレイヤーは、武器を自由に選択し、敵を倒しながら、ステージをクリアしていきます。
533
- ステージは、3Dで表現し、プレイヤーは、主人公の動きを自由に操作することができます。
534
- また、プレイヤーは、主人公の武器を自由に選択することができます。
535
- 武器は、剣、銃、魔法など、多種多様な武器を用意しています。
536
- プレイヤーは、武器を自由に選択し、敵を倒しながら、ステージをクリアしていきます。
537
- プレイヤーは、武器を自由
538
- <s><s> [INST] <<SYS>>
539
- あなたは誠実で優秀な日本人のアシスタントです。
540
- <</SYS>>
541
-
542
- 「���日は少し雨が降っている。外出するのは億劫だけど、近くのコンビニまで買い物をしなければならない。傘を持っていくかどうか迷う。」
543
-
544
- このシチュエーションで、以下の2つの選択肢のメリットとデメリットについて説明してください。
545
-
546
- A. 傘を持っていかない
547
- B. 傘を持っていく [/INST] 選択肢A. 傘を持っていかない
548
- メリット: 傘を持っていかないので、荷物になる傘を持ち歩く必要がなくなり、荷物も軽減できる。
549
- デメリット: 傘を持っていかないので、雨が降っていると濡れてしまう。
550
- 選択肢B. 傘を持っていく
551
- メリット: 傘を持っていけば、雨が降っていても濡れる心配がなくなる。
552
- デメリット: 傘を持っていくので、荷物になる傘を持ち歩く必要があり、荷物も増える。<s> 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物 事、場所、環境など、あらゆるものに使われる言葉です。
553
- 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物事、場所、環境など、あらゆるものに使われる言葉です。
554
- 「おいしい」という言葉は、食べ物や飲み物、料理など、食べ物に限らず、人や物事、場所、環境など、あらゆるものに使われる言葉です。
555
- 「おいしい」という言葉
556
- <s><s> [INST] <<SYS>>
557
- あなたは誠実で優秀な日本人のアシスタントです。
558
- <</SYS>>
559
-
560
- 与えられた文について、なぜそのような行動をしたかの理由を推測してください。
561
-
562
- ---
563
-
564
- 「もう、いい加減にして!」というと彼女は突然立ち上がって、部屋を出ていった。 [/INST] 彼女は、あなたが彼女に対して、彼女の言動に対して、あるいは彼女の態度に対し て、不満や不快感を抱いていることを察した。
565
- 彼女は、あなたが彼女に対して、彼女の言動に対して、あるいは彼女の態度に対して、不満や不快感を抱いていることを察した。
566
- 彼女は、あなたが彼女に対して、彼女の言動に対して、あるいは彼女の態度に対して、不満や不快感を抱いていることを察した。
567
- 彼女は、あなたが彼女に対して、彼女の言動に対して、あるいは彼女の態度に対して、不満や不快感を抱いていることを察した。
568
- 彼女は、あなたが彼女に対して、彼女の言動に対して、あるいは彼女の態度に対して、不満や不快感を抱いていることを察した。<s> 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に関してだけではなく、人や物事、場所、環境など、様々なものに対して使われる言葉です。
569
- 「おいしい」という言葉は、その人の感性や価値観によって、その時の状況や状況によって、その人の感情や気持ちによって、その時の状況や
570
- <s><s> [INST] <<SYS>>
571
- あなたは誠実で優秀な日本人のアシスタントです。
572
- <</SYS>>
573
-
574
- 新しいレストランに行きました。メニューを見て、以下の2種類のパスタのどちらを注文するか迷っています。どちらを選ぶべきか、理由を説明してください。
575
-
576
- ・トマトソースのスパゲッティ
577
- ・クリームソースのペンネ [/INST] こんにちは。
578
- 私はあなたに、以下の2種類のパスタのどちらを注文するか迷っています。
579
- ・トマトソースのスパゲッティ
580
- ・クリームソースのペンネ [/INST/] こんにちは。
581
- 私はあなたに、以下の2種類のパスタのどちらを注文するか迷っています。
582
- ・トマトソースのスパゲッティ
583
- ・クリームソースのペンネ [/INST/] こんにちは。
584
- 私はあなたに、以下の2種類のパスタのどちらを注文するか迷っています。
585
- ・トマトソースのスパゲッティ
586
- ・クリームソースのペンネ [/INST/] こんにちは。
587
- 私はあなたに、以下の2種類のパスタのどちらを注文するか迷っています。
588
- ・トマトソースのスパゲッティ
589
- ・クリームソースのペンネ [/INST/] こんにちは。
590
- 私はあなたに、以下の2種類のパスタのどちらを注文するか迷っています。
591
- ・トマトソースのスパゲッティ
592
-
593
- <s><s> [INST] <<SYS>>
594
- あなたは誠実で優秀な日本人のアシスタントです。
595
- <</SYS>>
596
-
597
- 以下の例文はジョーク(皮肉)を言っていますか?
598
- そんなに落とし物をするなんて、今日は重力が強いのかな? [/INST] この例文はジョーク(皮肉)を言っています。
599
- 「重力」という単語は、物理学で「重力」という物理量を表す言葉です。
600
- 「重力」は、物体が他の物体に引かれる力のことを指します。
601
- この例文では、落とし物をするという行為が、物理学でいう「重力」に例えられています。
602
- つまり、この例文は、落とし物をするという行為が、物理学でいう「重力」に例えられていることを皮肉っているのです。
603
- この例文は、ジョーク(皮肉)を言っています。<s> 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に限らず、人や物事、場所、環境など、あらゆるものに対して使われる言葉です。
604
- 「おいしい」という言葉は、その人の感性や価値観によって、その時の状況によって、その時の気分によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況
605
- <s><s> [INST] <<SYS>>
606
- あなたは誠実で優秀な日本人のアシスタントです。
607
- <</SYS>>
608
-
609
- Bさんの発言は「はい」か「いいえ」で言い換えるとどちらですか?
610
- Aさん: 準備はできましたか?
611
- Bさん: 大丈夫です。
612
-
613
- また、Dさんの発言は「はい」か「いいえ」で言い換えるとどちらですか?
614
- Cさん: 手伝いましょうか?
615
- Dさん: 大丈夫です。 [/INST] はい、いいえで言い換えるとどちらですか?
616
- Aさん: 準備はできましたか?
617
- Bさん: 大丈夫です。
618
- また、Dさんの発言は「はい」か「いいえ」で言い換えるとどちらですか?
619
- Cさん: 手伝いましょうか?
620
- Dさん: 大丈夫です。<s> 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に関してだけではなく、人や物事、場所、環境など、様々なものに対して使 われる言葉です。
621
- 「おいしい」という言葉は、その人の感性や価値観によって、その時の状況によって、その時の気分によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、
622
- <s><s> [INST] <<SYS>>
623
- あなたは誠実で優秀な日本人のアシスタントです。
624
- <</SYS>>
625
-
626
- 昔はよく海に行っていたが、最近ではほとんど泳がない。
627
- 上の文章を「滅多に」という言葉を使って言い換えてください。 [/INST] 昔はよく海に行っていたが、最近ではほとんど泳がない。
628
- 上の文章を「滅多に」という言葉を使って言い換えてください。
629
- 答え:滅多に海に行かなくなった。<s> 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に関してだけではなく、人や物事、場所、環境など、様々なものに対して使われる言葉です。
630
- 「おいしい」という言葉は、その人の感性や価値観によって、その時の状況や状況によって、その時の感情によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その
631
- <s><s> [INST] <<SYS>>
632
- あなたは誠実で優秀な日本人のアシスタントです。
633
- <</SYS>>
634
-
635
- あるQAのAをもとに、どんなQだったかを考えてください。
636
- A: ズボンとパンツは基本的に同じものを指し、現在明確な違いが定義されているわけではありません。 下着との区別をするためわざとズボンと表記している場合もあります。間違いではないので、ズボンと呼んでもパンツと呼んでも問題ありません。 自由に呼びましょう。
637
-
638
- [/INST] ズボンとパンツは基本的に同じものを指し、現在明確な違いが定義されているわけではありません。
639
- 下着との区別をするためわざとズボンと表記している場合もあります。
640
- 間違いではないので、ズボンと呼んでもパンツと呼んでも問題ありません。
641
- 自由に呼びましょう。<s> 「おいしい」という言葉は、食べ物や飲み物、料理やスイーツなど、食べ物に関してだけではなく、人や物事、場所、環境など、様々なものに対して使われる言葉です。
642
- 「おいしい」という言葉は、その人の感性や価値観によって、その時の状況や状況によって、その時の感情によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、その時の状況によって、
643
- <s><s> [INST] <<SYS>>
644
- あなたは誠実で優秀な日本人のアシスタントです。
645
- <</SYS>>
646
-
647
- 1. 彼は比類のない陸上選手だ。
648
- 2. 彼は比較的に良い陸上選手だ。
649
-
650
- 1の文が難しいので2の文に直そうと思っているのですが、これってあってますか?
651
- [/INST] 1の文は「彼は比類のない陸上選手だ」という意味で、2の文は「彼は比較的に良い陸上選手だ」という意味です。
652
- 「比類のない」は「類を見ないほど」という意味で、「比較的に良い」は「比較的良い」という意味です。
653
- 「比較的に良い」は「良い」の次に「比較的」を置くことで「良い」を強調する表現です。
654
- 「比較的に良い」は「良い」の次に「比較的」を置くことで「良い」を強調する表現です。
655
- 「比較的に良い」は「良い」の次に「比較的」を置くことで「良い」を強調する表現です。
656
- 「比較的に良い」は「良い」の次に「比較的」を置くことで「良い」を強調する表現です。
657
- 「比較的に良い」は「良い」の次に「比較的」を置くことで「良い」を強調する表現です。
658
- 「比較的に良い」は「良い」の次に「比較的」を置くことで「良い」を強調する表現です。
659
 
660
- <s><s> [INST] <<SYS>>
661
- あなたは誠実で優秀な日本人のアシスタントです。
662
- <</SYS>>
663
 
664
- 「スキーストック 選び方」と検索しているユーザーが他に興味を持ちそうな検索クエリをいくつかあげてください。 [/INST] スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び 方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 スキーストック 選び方 ス キーストック 選び方
665
- <s><s> [INST] <<SYS>>
666
- あなたは誠実で優秀な日本人のアシスタントです。
667
- <</SYS>>
668
 
669
- 新入社員のオンボーディングをしています。
670
-
671
- 会社のメールアカウントなどのITセットアップは概ね完了して、社内のドキュメントも閲覧できる状態です。また新人研修なども実施し、業務の説明などをそこで行う予定です。
672
-
673
- 他に何かすべきことはありますか?特に新入社員が早く馴染めるようにするにはどうしたら良いでしょうか [/INST] 新入社員のオンボーディングを担当されているようですね。
674
- 新入社員が早く馴染めるようにするには、以下のことをお勧めします。
675
- 1. 新入社員の仕事の理解を深める 新入社員は、仕事の流れや仕事の目的を理解していないことが多いです。
676
- そのため、仕事の流れや目的を理解してもらう必要があります。
677
- 2. 新入社員の仕事のやり方を教える 新入社員は、仕事のやり方を理解していません。
678
- そのため、仕事のやり方を教える必要があります。
679
- 3. 新入社員の仕事のやり方を確認する 新入社員は、仕事のやり方を理解していません。
680
- そのため、仕事のやり方を確認する必要があります。
681
- 4. 新入社員の仕事のやり方を確認する 新入社員は、仕事のやり方を理解していません。
682
- そのため、仕事のやり方を確認する必要があります。
683
- 5. 新入社員の仕事のやり方を確認する 新入社員は、仕事のやり方を理解していません。
684
- そのため、仕事のやり方を確認する必要があります。
685
- 6. 新入社員の仕事のやり方を確認する 新入社員は、仕事
686
- <s><s> [INST] <<SYS>>
687
- あなたは誠実で優秀な日本人のアシスタントです。
688
- <</SYS>>
689
 
690
- あなたは、小説の執筆者です。以下は小説の一文です。
691
- 「風が強く吹いていた。」
692
- この文章に対して、どのような表現を追加することで、風の強さがより強く表現できるか、答えを書いてください。 [/INST] 「風が強く吹いていた。」
693
- この文章に対して、どのような表現を追加することで、風の強さがより強く表現できるか、答えを書いてください。
694
- 風が強く吹いていた。
695
- 風が強く吹いていた。
696
- 風が強く吹いていた。
697
- 風が強く吹いていた。
698
- 風が強く吹いていた。
699
- 風が強く吹いていた。
700
- 風が強く吹いていた。
701
- 風が強く吹いていた。
702
- 風が強く吹いていた。
703
- 風が強く吹いていた。
704
- 風が強く吹いていた。
705
- 風が強く吹いていた。
706
- 風が強く吹いていた。
707
- 風が強く吹いていた。
708
- 風が強く吹いていた。
709
- 風が強く吹いていた。
710
- 風が強く吹いていた。
711
- 風が強く吹いていた。
712
- 風が強く吹いていた。
713
- 風が強く吹いていた。
714
- 風が強く吹いていた。
715
- 風が強く吹いていた。
716
- 風が強く吹いていた。
717
- 風が強く吹いていた。
718
- 風が強く吹いていた。
719
- 風が強く吹いていた。
720
- 風が強く吹いていた。
721
- 風が強く吹いていた。
722
- 風が強く吹いていた。
723
- 風が強く吹いていた。
724
- 風が強く吹いていた。
725
- 風が強く吹
726
- <s><s> [INST] <<SYS>>
727
- あなたは誠実で優秀な日本人のアシスタントです。
728
- <</SYS>>
729
 
730
- 以下の文章について、筆者がどのような意図でこの文章を書いたか、あなたならどのように解釈しますか。
731
-
732
- 彼はバブル期に大金持ちになり豊かな生活に日夜明け暮れたが、バブル崩壊後にほとんどの資産と職を失った。彼女に出会ったのは、そんな人生が真っ暗になってしまっていたと
733
- きだった。彼は現在アルバイトで貧しいながらも生計を立てているが、それでも彼は今が一番豊かだと言っている。 [/INST] この文章は、バブル期に大金持ちになった男性が、 バブル崩壊後に失った財産と職を回復できず、貧しい生活を送っていることを伝えています。
734
- しかし、彼は今が一番豊かだと語っている。
735
- この文章は、バブル期に大金持ちになった男性が、バブル崩壊後に失った財産と職を回復できず、貧しい生活を送っていることを伝えています。
736
- しかし、彼は今が一番豊かだと語ってい���。
737
- この文章は、バブル期に大金持ちになった男性が、バブル崩壊後に失った財産と職を回復できず、貧しい生活を送っていることを伝えています。
738
- しかし、彼は今が一番豊かだと語っている。
739
- この文章は、バブル期に大金持ちになった男性が、バブル崩壊後に失った財産と職を回復できず、貧しい生活を送っていることを伝えています。
740
- しかし、彼は今が一番豊かだと語っている。
741
- この文章は、バブル期に大金持ちになった男性が、バブル崩壊後に失った財産と職を
742
- <s><s> [INST] <<SYS>>
743
- あなたは誠実で優秀な日本人のアシスタントです。
744
- <</SYS>>
745
 
746
- 花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花や新緑もたくさんあります。そこで、花粉症でも春を楽しむコツを3つ考えてください。 [/INST] 花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花や新緑もたくさんあります。
747
- そこで、花粉症でも春を楽しむコツを3つ考えてください。
748
- 花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花や新緑もたくさんあります。
749
- そこで、花粉症でも春を楽しむコツを3つ考えてください。
750
- 花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花や新緑もたくさんあります。
751
- そこで、花粉症でも春を楽しむコツを3つ考えてください。
752
- 花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花や新緑もたくさんあります。
753
- そこで、花粉症でも春を楽しむコツを3つ考えてください。
754
- 花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花や新緑もたくさんあります。
755
- そこで、花粉症でも春を楽しむコツを3つ考えてください。
756
- 花粉症の方々にとって、春は憂鬱な季節です。しかし、春には素敵な花
757
- <s><s> [INST] <<SYS>>
758
- あなたは誠実で優秀な日本人のアシスタントです。
759
- <</SYS>>
760
 
761
- 次の物語の展開を予想してみましょう。
762
-
763
- ある日、主人公のもとに不思議な手紙が届きました。手紙には「今夜の満月に、森の奥深くにある洞窟に来てください。あなたを待っています。」と書かれていました。主人公は
764
- その手紙に従い、夜中に洞窟の入り口にたどり着きました。中に入ると、謎めいた人物と出会い 。 [/INST] 主人公は洞窟の奥深くに進むと、そこには大きな石の棺が置かれて いました。
765
- 棺の蓋を開けると、中には美しい女性が眠っていました。
766
- 彼女は目を覚ますと、主人公に「私はこの世に生を受けた時からずっと、あなたに会いたかったの。
767
- あなたは私の夫になるのよ。」と言いました。
768
- 主人公は驚き、その女性に「私はあなたに会ったことがありません。
769
- あなたは誰ですか?」と尋ねました。
770
- 女性は「私は、この世に生を受けた時からずっと、あなたに会いたかったの。
771
- あなたは私の夫になるのよ。」と言いました。
772
- 主人公は「あなたは誰ですか?」と尋ねました。
773
- 女性は「私は、この世に生を受けた時からずっと、あなたに会いたかったの。
774
- あなたは私の夫になるのよ。」と言いました。
775
- 主人公は「あなたは誰ですか?」と尋ねました。
776
- 女性は「私は、こ
777
- ```
778
 
779
  ### 引用 Citations
780
 
 
33
 
34
  ### Japanese automated benchmark result
35
 
36
+ Benchmark settings are the same as (weblab-10b-instruction-sft-GPTQ)[https://huggingface.co/dahara1/weblab-10b-instruction-sft-GPTQ]
37
+
38
  | Task |Version| Metric |Value | |Stderr|
39
  |----------------------|------:|--------|-----:|---|-----:|
40
  |jcommonsenseqa-1.1-0.3| 1.1|acc |0.7417|± |0.0131|
41
  | | |acc_norm|0.3485|± |0.0143|
42
 
43
+ | Task |Version| Metric | Value | |Stderr|
44
+ |--------------|------:|-----------|------:|---|------|
45
+ |jsquad-1.1-0.3| 1.1|exact_match|69.0455| | |
46
+ | | |f1 |80.2155| | |
47
 
 
 
48
 
49
+ ### Sample Code
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
50
 
51
  ```
52
  pip install auto-gptq
 
73
  B_INST, E_INST = "[INST]", "[/INST]"
74
  B_SYS, E_SYS = "<<SYS>>\n", "\n<</SYS>>\n\n"
75
  DEFAULT_SYSTEM_PROMPT = "あなたは誠実で優秀な日本人のアシスタントです。"
76
+ text = "クマが海辺に行ってアザラシと友達になり、最終的には家に帰るというプロットの短編小説を書いてください。"
77
+
78
+ prompt = "{bos_token}{b_inst} {system}{prompt} {e_inst} ".format(
79
+ bos_token=tokenizer.bos_token,
80
+ b_inst=B_INST,
81
+ system=f"{B_SYS}{DEFAULT_SYSTEM_PROMPT}{E_SYS}",
82
+ prompt=text,
83
+ e_inst=E_INST,
84
+ )
85
+
86
+ tokens = tokenizer(prompt, return_tensors="pt").to("cuda:0").input_ids
87
+ output = model.generate(
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
88
  input_ids=tokens,
89
  max_new_tokens=256,
90
  pad_token_id=tokenizer.pad_token_id,
91
  eos_token_id=tokenizer.eos_token_id)
92
+ print(tokenizer.decode(output[0]))
 
93
  ```
94
+ This is cherry picking result.
95
+ It is relatively easy to follow instructions for writing sentences.
96
 
 
97
 
98
  ```
99
  <s><s> [INST] <<SYS>>
100
  あなたは誠実で優秀な日本人のアシスタントです。
101
  <</SYS>>
102
 
103
+ クマが海辺に行ってアザラシと友達になり、最終的には家に帰るというプロットの短編小説を書いてください。 [/INST] クマは海辺にやってきました。
104
+ 海辺はとてもきれいでした。
105
+ クマは海辺に座って、海を眺めていました。
106
+ すると、海辺にアザラシがやってきました。
107
+ アザラシはクマに話しかけました。
108
+ 「どうしてここにいるの?」「私は海辺に座って海を眺めていました。
109
+ すると、アザラシがやってきました。
110
+ アザラシはクマに話しかけました。
111
+ 「どうしてここにいるの?」「私は海辺に座って海を眺めていました。
112
+ すると、アザラシがやってきました。
113
+ アザラシはクマに話しかけました。
114
+ 「どうしてここにいるの?」「私は海辺に座って海を眺めていました。
115
+ すると、アザラシがやってきました。
116
+ アザラシはクマに話しかけました。
117
+ 「どうしてここにいるの?」「私は海辺に座って海を眺めていました。
118
+ すると、アザラシがやってきました。
119
+ アザラシはクマに話しかけました。
120
+ 「どうしてここに
121
+ ```
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
122
 
123
+ ### Colab Sample with extra benchmark
 
 
124
 
 
 
 
 
125
 
126
+ (Colab Sample)[]
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
127
 
128
+ elyza_tasks_100_over_4score_prompt borrows data from [ELYZA-tasks-100 評価結果シート](https://docs.google.com/spreadsheets/d/1mtoy4QAqDPk2f_B0vDogFoOrbA5G42DBEEHdqM4VmDI/edit#gid=1023787356).
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
129
 
130
+ The original model was able to perform well at these prompts but this model does not always give good results.
131
+ So if you need high performance, please use the original model.
 
 
 
 
 
 
 
 
 
 
 
 
 
132
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
133
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
134
 
135
  ### 引用 Citations
136