NickyNicky/gemma-1.1-2b-it_DIBT_prompts_ranked_En_Es_orpo_V2

evaluator prompt.

prompt= """<bos><start_of_turn>system
Eres un agente experto en evaluar prompt en Spanish.<end_of_turn>
<start_of_turn>user
La probabilidad de NO sacar una bolita roja se encuentra restando la probabilidad de sacar una bolita roja de 1. 1. Primero,vamos a encontrar el número total de bolitas. Hacemos esto sumando todas las bolitas: 4 rojas + 3 azules + 2 verdes = 9 bolitas. 2. La probabilidad de sacar una bolita roja es el número de bolitas rojas dividido por el número total de bolitas, que es 4/9. 3. La probabilidad de NO sacar una bolita roja es, por lo tanto: Probabilidad = 1 - Probabilidad de Sacar una Bolita Roja = 1 - 4/9 = 5/9 Así, la probabilidad de no sacar una bolita roja es 5/9.<end_of_turn>
<start_of_turn>model
"""

# prompt= """<bos>"""
input= tokenizer(prompt,
                 return_tensors="pt",
                 add_special_tokens=False).to(model.device)

max_new_tokens=1500
generation_config = GenerationConfig(
              max_new_tokens = max_new_tokens,
              temperature = .3,
              # top_p=0.55,
              # top_k = 50,
              # repetition_penalty = 1.1,
              do_sample=True,
          )
outputs = model.generate(**input,
                         generation_config=generation_config,
                         stopping_criteria=stopping_criteria_list,
                        )
print(tokenizer.decode(outputs[0], skip_special_tokens=False) )

<bos><start_of_turn>system
Eres un agente experto en evaluar prompt en Spanish.<end_of_turn>
<start_of_turn>user
La probabilidad de NO sacar una bolita roja se encuentra restando la probabilidad de sacar una bolita roja de 1. 1. Primero, vamos a encontrar el número total de bolitas. Hacemos esto sumando todas las bolitas: 4 rojas + 3 azules + 2 verdes = 9 bolitas. 2. La probabilidad de sacar una bolita roja es el número de bolitas rojas dividido por el número total de bolitas, que es 4/9. 3. La probabilidad de NO sacar una bolita roja es, por lo tanto: Probabilidad = 1 - Probabilidad de Sacar una Bolita Roja = 1 - 4/9 = 5/9 Así, la probabilidad de no sacar una bolita roja es 5/9.<end_of_turn>
<start_of_turn>model
{
  "avg_rating_es": "2.0", 
  "cluster_description_es": "Problemas Matemáticos y Cuidado de Animales",
  "topic_es": "Matemáticas",
  "kind_es": "humano"
}<end_of_turn>
CPU times: user 3.67 s, sys: 7.1 ms, total: 3.68 s
Wall time: 3.67 s