webbigdata
/

C3TR-Adapter_gguf

@@ -78,466 +78,37 @@ make
 #### 推論実行例(Inference execution sample)
-英日翻訳(Translate English to Japanese)
 ```
-./llama-cli -m ./C3TR-Adapter.f16.Q4_k_m.gguf -e --temp 0 --repeat-penalty 1.0 -n -2  -p "You are a highly skilled professional Japanese-English and English-Japanese translator. Translate the given text accurately, taking into account the context and specific instructions provided. Steps may include hints enclosed in square brackets [] with the key and value separated by a colon:. Only when the subject is specified in the Japanese sentence, the subject will be added when translating into English. If no additional instructions or context are provided, use your expertise to consider what the most appropriate context is and provide a natural translation that aligns with that context. When translating, strive to faithfully reflect the meaning and tone of the original text, pay attention to cultural nuances and differences in language usage, and ensure that the translation is grammatically correct and easy to read. After completing the translation, review it once more to check for errors or unnatural expressions. For technical terms and proper nouns, either leave them in the original language or use appropriate translations as necessary. Take a deep breath, calm down, and start translating.
 <start_of_turn>### Instruction:
-Translate English to Japanese.
 When translating, please use the following hints:
-[writing_style: web-fiction]
 ### Input:
-[Blackthorne] My name is John Blackthorne!
-I’m English, pilot of the Erasmus, a Dutch merchant vessel.
-Lies! You’re a pirate!
-They don’t know about us, do they?
-The great Lord Yoshii Toranaga wants to meet you.
-What does he want with me?
-Play with your balls, maybe. How should I know?
-♪ ♪
-[man chuckles]
-[indistinct whispering]
-[laughing]
-[laughs]
-Hmm.
-♪ ♪
-♪ ♪
-♪ ♪
-[Dell’Acqua] This English pilot-how do you mean he is obscene?
-You know the sort. Uh, dirty. Diseased.
-And he’s got a filthy mouth.
-He’s like a back-passage whore of the 15th rank.
-Know what I mean, Father-Visitor?
-These journals are proof of his depravity.
-Look, Your Eminence.
-Sacked, slaughtered and pillaged his way through Manila.
-He’s a real piece of work, that one. Brutal savage.
-So we show these to the Japanese.
-And he will be hanged for piracy.
-I’m afraid it may not be so simple.
-Despite the discord in Osaka, Toranaga is still president of foreign relations.
-He’s a thorough man.
-I fear he’ll want a complete translation of this journal.
-Perhaps a bit too complete.
-I’ll thank you to leave now.
-So you know, this, uh, pirate– he’s not a man to leave his fate with God.
-I suggest you don’t, either.
-So he knows everything about Macao.
-Christ as my witness… with these bushos on the verge of open war, the last thing we need is any discussion of past entanglements.
-Well, then let us be grateful our visitor does not speak Japanese.
-Hm.
-I’m going to the castle where Toranaga has been sequestered.
-I’m to translate for him this afternoon.
-Martin.
-These are critical times for the mission.
-You will see to it this man is not a problem.
-♪ ♪
-[horse whinnying]
-[door slides open]
-[guard calls out]
-[door slides closed]
-Shit.
-Good morning.
-My name is Martin Alvito of the Society of Jesus.
-You must be the Anjin.
-What does that mean?
-It means “pilot.”
-The way Tsuji means “translator” for me.
-You are in the court of Lord Yoshii Toranaga, and I am the interpreter to the Council of Regents.
-Oh, good, so you’ll be able to twist my words in your Portuguese favor.
-What did you just say?
-[Alvito] Exactly what you said.
-I will translate without prejudice.
-Well, seeing as you’re so bloody honest, perhaps you would do me the courtesy of telling him we are enemies.
-[Alvito] Tell him yourself.
-The Japanese word for “enemy” is teki.
-Gesture at me and say the word.
-He will understand.
-I may be your enemy, John Blackthorne of the Erasmus… but I am not your assassin.
-That you will do yourself.
-Hm.
-He wants to know why we are enemies.
-Because our countries are at war.
-[Alvito] Tell him where you’re from.
-England.
-It’s an island kingdom,
-1,000 miles north of Portugal.
-[continues speaking Japanese]
-[Alvito] Why are you at war with my kingdom?
-Because England refuses to be intimidated by Catholics.
-[Alvito translating]
-[Alvito] You are not Catholic?
-There are two Christian religions.
-Protestant and Catholic.
-We English are Protestant.
-[Blackthorne] Yes.
-Though I won’t know for sure till I’m dead.
-I am not a pirate.
-My ship contains letters of marque from the rulers of a nation called Holland, authorizing us to trade in all seas.
-And to defend ourselves against anyone who dare stop us.
-I cannot conceive of being an enemy to you, Lord.
-Then I would commend my soul to God.
-For surely I would die by the hand of a teki like you.
-[guard calls out]
-[door slides open]
-[Alvito] Move.
-This is Lord General Ishido.
-Toranaga’s chief rival. If you value your life, do not say a word.
-[door slides closed]
-Bow. Fast.
-[chuckles]
-You are to be detained.
-For how long?
-I do not know, Anjin.
-But I will pray for your soul.
-[Blackthorne] What have you told him, you bastard?
-This is fucking great.
-[mumbles indistinctly]
-There’s clearly been some sort of misunderstanding.
-Where are you taking me?
-If I’ve committed some sort of offense, I apologize. Apolo…
-Do any of you people understand a damn word I’m saying?
-You, up front-where are you taking me?
-[grunting]
-No, I protest this treatment!
 <end_of_turn>
 <start_of_turn>### Response:
 "
 ```
-出力例(output)
-```
-[ブラックソーン] 私はジョン・ブラックソーンと名乗る。
-私はイギリス人であり、オランダの商船「エラスムス」の船長だ。
-嘘つき！お前は海賊だ！
-彼らは我々について知らないだろう。
-大名義氏虎長は君と会いたいらしい。
-彼は私に何を求めているんだ？
-玉の緒を弄ぶのかもしれない。誰が知ってんだよ。
-♪ ♪
-[男が笑う]
-[ぼやけたささやき]
-[笑い声]
-[笑い声]
-うーん。
-♪ ♪
-♪ ♪
-♪ ♪
-[デル・アクア] この英語の船長、彼はなぜ下品なのか？
-その手のやつを知っているだろう。汚い。病んでいる。
-そして彼は汚い口をきく。
-彼は15位の娼婦のようなものだ。
-わかるか、神父？
-この日記は彼の堕落を証明している。
-見てくれ、枢機卿。
-マニラを略奪し、殺戮し、略奪した。
-彼は本当に厄介な奴だ。残虐な野蛮人だ。
-だからこれを日本人に示して、海賊として彼を吊るすんだ。
-だが、そう簡単ではないかもしれない。
-大阪の混乱にもかかわらず、虎長は依然として外交担当者だ。
-彼は徹底的な男だ。
-彼がこの日記の完全な翻訳を望むのではないかと恐れている。
-恐らく、少しばかり過剰な翻訳かもしれない。
-もう出て行ってくれ。
-そうね、この海賊は、自分の運命を神に委ねない男だ。
-君もそうすべきだ。
-だから彼はマカオについてすべて知っている。
-神に誓って…この武士がオープンな戦争の危機に瀕している中、過去に絡んだことについて議論する必要はない。
-では、我々の訪問者が日本語を話さないことを感謝しよう。
-うーん。
-私は虎長が隔離されている城に行く。
-午後には彼���ために翻訳する。
-マーティン。
-このミッションにとって重要な時期だ。
-この男が問題にならないようにする責任は君にある。
-♪ ♪
-[馬の鳴き声]
-[扉がスライドして開く]
-[警備兵が呼ぶ]
-[扉がスライドして閉じる]
-クソだ。
-おはようございます。
-私はイエズス会のマティン・アルヴィートです。
-あなたはアンジンでしょう。
-アンジンってどういう意味？
-それは「船長」という意味だ。
-私の場合、ツジは「通訳」という意味だ。
-あなたは義氏虎長大名の御前におり、私は摂政評議会の通訳だ。
-ああ、そうか、つまり、君がポルトガル語で有利に私の言葉を曲げることになるのか。
-君は何と言ったんだ？
-[アルヴィート] 君が言ったことと同じことを言った。
-私は偏見なく翻訳する。
-君がそんなに正直な人間なら、彼に敵であることを教えてくれるだろう。
-[アルヴィート] 自分で言ってくれ。
-「敵」は「敵」だ。
-私を指さして「敵」と言う。
-彼は理解するだろう。
-私は君が敵であるかもしれない、エラスムスのジョン・ブラックソーンだが、君の暗殺者ではない。
-それは君が自分でやることだ。
-うーん。
-彼はなぜ敵であるのかを知りたいと思っている。
-なぜなら、我々の国は戦争をしているから。
-[アルヴィート] 君はどこから来たのかを伝えてくれ。
-イングランド。
-それはポルトガルより北に1,000マイル離れた島国だ。
-[続けて日本語で話す]
-[アルヴィート] なぜ私の王国と戦争をしているのか？
-イングランドはカトリックに屈しない。
-[アルヴィートが翻訳する]
-[アルヴィート] 君はカトリックではないのか？
-キリスト教には2つの宗教がある。プロテスタントとカトリックだ。
-我々イギリス人はプロテスタントだ。
-[ブラックソーン] そうだな。
-だが、死んだら確かめられるだろう。
-私は海賊ではない。
-私の船には、オランダという国を統治する者から、すべての海で貿易し、我々を止めようとする者から身を守ることを許可する書状が入っている。
-君に敵対することは考えられない。
-そうであれば、私は神に魂を委ねることだろう。
-きっと君のような敵に殺されるだろう。
-[警備兵が呼ぶ]
-[扉がスライドして開く]
-[アルヴィート] 動きなさい。
-これは石戸大将だ。
-虎長の最大のライバルだ。命を大切にしたいのなら、一言も言わないでくれ。
-[扉がスライドして閉じる]
-頭を下げろ。早く。
-[笑い声]
-君は拘束される。
-どれくらい？
-わからない、アンジン。
-だが、君の魂のために祈るよ。
-[ブラックソーン] 君は何を彼に話したんだ、クソ野郎？
-これは fucking すごい。
-[ぼやけながら話す]
-明らかに誤解があったようだ。
-どこへ連れて行くんだ？
-もし私が何らかの罪を犯したのなら、謝罪する。謝罪…
-君たちは私の言っていること一つも理解しているのか？
-君、一番前の人-どこへ連れて行くんだ？
-[唸り声]
-いいえ、この扱いには抗議する！ [end of text]
-```
 日英翻訳時(Translate Japanese to English)
 ```

 #### 推論実行例(Inference execution sample)
+C3TRのような小さいモデルを使用する際にはテンプレートの書式を厳密に守ることが大切です
+With small models like the C3TR, it is important to make sure you follow the template.
+- 改行の数と場所
+- 特殊トークン```<start_of_turn>```が２箇所、```<end_of_turn>```が１箇所に設置されている事
+- llama-cliのコマンドラインオプション( -e --temp 0 --repeat-penalty 1.0 -n -2)などが意図通りに設定されている事
+- The location and number of line breaks in the prompt
+- The special tokens ```<start_of_turn>``` are set in two places and ```<end_of_turn>``` is set in one place
+- Please also make sure that the command line option ( -e --temp 0 --repeat-penalty 1.0 -n -2)
+The basic structure is as follows:
 ```
+./llama-cli -m ./C3TR-Adapter.f16.Q4_k_m.gguf -e --temp 0 --repeat-penalty 1.0 -n -2 -p "You are a highly skilled professional Japanese-English and English-Japanese translator. Translate the given text accurately, taking into account the context and specific instructions provided. Steps may include hints enclosed in square brackets [] with the key and value separated by a colon:. Only when the subject is specified in the Japanese sentence, the subject will be added when translating into English. If no additional instructions or context are provided, use your expertise to consider what the most appropriate context is and provide a natural translation that aligns with that context. When translating, strive to faithfully reflect the meaning and tone of the original text, pay attention to cultural nuances and differences in language usage, and ensure that the translation is grammatically correct and easy to read. After completing the translation, review it once more to check for errors or unnatural expressions. For technical terms and proper nouns, either leave them in the original language or use appropriate translations as necessary. Take a deep breath, calm down, and start translating.
 <start_of_turn>### Instruction:
+<<Translate Japanese to English. or Translate English to Japanese.>>
 When translating, please use the following hints:
+[writing_style: <<casual or formal or technical or journalistic or web-fiction or business or nsfw or educational-casual or academic-presentation or slang or sns-casual>>]
 ### Input:
+<<YOUR_TEXT>
 <end_of_turn>
 <start_of_turn>### Response:
 "
 ```
+What you can change is
+- ``` <<Translate Japanese to English. or Translate English to Japanese.>>```
+-  ```<<casual or formal or technical or journalistic or web-fiction or business or nsfw or educational-casual or academic-presentation or slang or sns-casual>>  ```
+- ```<YOUR_TEXT>```
 日英翻訳時(Translate Japanese to English)
 ```