munish0838 commited on
Commit
374665f
1 Parent(s): d949433

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +166 -0
README.md ADDED
@@ -0,0 +1,166 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+
2
+ ---
3
+
4
+ language: es
5
+ license: apache-2.0
6
+ tags:
7
+ - text-generation-inference
8
+ - transformers
9
+ - qwen2
10
+ - chat
11
+ - qa
12
+ - multi-task-learning
13
+ - instruction-tuning
14
+ base_model: Qwen/Qwen2-1.5B
15
+
16
+ ---
17
+
18
+ ![](https://lh7-rt.googleusercontent.com/docsz/AD_4nXeiuCm7c8lEwEJuRey9kiVZsRn2W-b4pWlu3-X534V3YmVuVc2ZL-NXg2RkzSOOS2JXGHutDuyyNAUtdJI65jGTo8jT9Y99tMi4H4MqL44Uc5QKG77B0d6-JfIkZHFaUA71-RtjyYZWVIhqsNZcx8-OMaA?key=xt3VSDoCbmTY7o-cwwOFwQ)
19
+
20
+ # QuantFactory/leniachat-qwen2-1.5B-v0-GGUF
21
+ This is quantized version of [LenguajeNaturalAI/leniachat-qwen2-1.5B-v0](https://huggingface.co/LenguajeNaturalAI/leniachat-qwen2-1.5B-v0) created using llama.cpp
22
+
23
+ # Original Model Card
24
+
25
+
26
+
27
+ ![image/png](https://cdn-uploads.huggingface.co/production/uploads/61f333df8f26cc42dc587011/KX0yrpzeH2x3M4FWyx40Y.png)
28
+
29
+ # Chat & Instructions 1.5B LLM by LenguajeNatural.AI | Modelo LenguajeNatural.AI Chat e Instrucciones 1.5B
30
+
31
+ ## Developed by LenguajeNatural.AI
32
+
33
+ This model has been developed by [**LenguajeNatural.AI**](https://lenguajenatural.ai/), with the aim of providing the Spanish-speaking community with advanced tools for text generation, chat, and instructions.
34
+ It is the second released model of the LeNIA series, significantly outperforming the first one, being also smaller (1.5B vs 2B) and with a larger sequence size (32K vs 8K).
35
+
36
+ ### Technical Details
37
+
38
+ - Maximum Sequence Length: 32K
39
+ - Model Size: 1.5B parameters
40
+ - Architecture: Qwen2
41
+ - Trained in 3 steps:
42
+ - Domain Flan-style adaptation to Spanish: Massive Spanish instruction tuning
43
+ - High Quality Spanish Instruction Tuning
44
+ - Chat-Abstractive QA Fine-Tuning
45
+
46
+ ## Desarrollado por LenguajeNatural.AI
47
+
48
+ Este modelo ha sido desarrollado por [**LenguajeNatural.AI**](https://lenguajenatural.ai/), con el objetivo de proporcionar a la comunidad de habla hispana herramientas avanzadas para la generación de texto, chat e instrucciones.
49
+ Es el segundo modelo liberado de la saga LeNIA, superando con bastante margen el rendimiento del primero de ellos, siendo además más pequeño (1.5B vs 2B) y con mayor tamaño de secuencia (32K vs 8K).
50
+
51
+ ## License
52
+
53
+ This model is distributed under Apache 2.0. License.
54
+
55
+ ## Licencia
56
+
57
+ Este modelo se distribuye bajo la licencia Apache 2.0.
58
+
59
+ ## Base Model
60
+
61
+ This model has been fine-tuned from Qwen/Qwen2-1.5B, incorporating advanced features for better text generation and understanding in Spanish chat and instruction tasks.
62
+
63
+ ## Modelo Base
64
+
65
+ Este modelo se ha afinado a partir de `Qwen/Qwen2-1.5B`, incorporando características avanzadas para una mejor generación de texto y comprensión en tareas de chat e instrucciones en español.
66
+
67
+ ## Language
68
+
69
+ The model has been trained exclusively in Spanish, with the aim of maximizing its effectiveness in applications intended for Spanish-speaking users.
70
+
71
+ ## Idioma
72
+
73
+ El modelo ha sido entrenado exclusivamente en español, con el objetivo de maximizar su efectividad en aplicaciones destinadas a usuarios de habla hispana.
74
+
75
+ ## Training
76
+
77
+ The model has been trained in three distinct phases to ensure good performance across a wide range of tasks:
78
+
79
+ 1. **Multi-task learning in Spanish**: Using multiple supervised datasets for FLAN-style training.
80
+ 2. **High-quality instruction training**: Fine-tuning the model to understand and generate responses to complex instructions.
81
+ 3. **Chat and abstractive QA training**: Optimizing the model for smooth conversations and generating answers to abstract questions.
82
+
83
+ In all three phases, training was carried out thanks to our library [autotransformers](https://github.com/lenguajenatural-ai/autotransformers).
84
+
85
+ ## Entrenamiento
86
+
87
+ El modelo se ha entrenado en tres fases distintas para asegurar un buen rendimiento en una amplia gama de tareas:
88
+
89
+ 1. **Aprendizaje multi-tarea en español**: Utilizando múltiples conjuntos de datos supervisados para un entrenamiento al estilo FLAN.
90
+ 2. **Entrenamiento de instrucciones de alta calidad**: Afinando el modelo para entender y generar respuestas a instrucciones complejas.
91
+ 3. **Entrenamiento de chat y QA abstractivo**: Optimizando el modelo para conversaciones fluidas y la generación de respuestas a preguntas abstractas.
92
+
93
+ En las 3 fases se ha llevado a cabo el entrenamiento gracias a nuestra librería [autotransformers](https://github.com/lenguajenatural-ai/autotransformers).
94
+
95
+
96
+ ![image/png](https://cdn-uploads.huggingface.co/production/uploads/61f333df8f26cc42dc587011/LbzqllY6iX7IHhqXx4qeA.png)
97
+
98
+ ## Maximum Sequence Length
99
+
100
+ The maximum sequence length for this model is 32768 tokens, 4x more than the previous LeNIA-Chat version.
101
+
102
+ ## Tamaño máximo de secuencia
103
+
104
+ El tamaño máximo de secuencia para este modelo es de 8192 tokens, 4 veces más que la versión anterior de LeNIA-Chat.
105
+
106
+ ## Usage and Limitations
107
+
108
+ This model is designed to be used in text generation applications, chatbots, and virtual assistants in Spanish. Although it has been trained to minimize biases and errors, we recommend evaluating its performance in its specific context of use. Users should be aware of the inherent limitations of language models and use this model responsibly.
109
+ Additionally, it should be noted that the base model is only 1.5B parameters, so this model shares the inherent limitations of models of that size.
110
+
111
+ ## Usos y Limitaciones
112
+
113
+ Este modelo está diseñado para ser utilizado en aplicaciones de generación de texto, chatbots, y asistentes virtuales en español. Aunque ha sido entrenado para minimizar sesgos y errores, recomendamos evaluar su desempeño en su contexto específico de uso. Los usuarios deben ser conscientes de las limitaciones inherentes a los modelos de lenguaje y utilizar este modelo de manera responsable.
114
+ Además, debe tenerse en cuenta que el modelo base es de únicamente 1.5b parámetros, por lo que este modelo comparte las limitaciones inherentes a los modelos de ese tamaño.
115
+
116
+ ## How to start?
117
+
118
+ You can start using this model through the Hugging Face API or integrate it into your applications using the transformers library. Here is an example of how to load the model:
119
+
120
+ ## ¿Cómo empezar?
121
+
122
+ Puedes empezar a utilizar este modelo a través de la API de Hugging Face o integrarlo en tus aplicaciones utilizando la biblioteca `transformers`. Aquí tienes un ejemplo de cómo cargar el modelo:
123
+
124
+ ```python
125
+ from transformers import AutoModelForCausalLM, AutoTokenizer
126
+ import torch
127
+
128
+ model_name = "LenguajeNaturalAI/leniachat-gemma-2b-v0"
129
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
130
+ model = AutoModelForCausalLM.from_pretrained(model_name)
131
+
132
+ # Generar texto
133
+ messages = [
134
+ {"role": "system", "content": "Eres un asistente que ayuda al usuario a lo largo de la conversación resolviendo sus dudas."},
135
+ {"role": "user", "content": "¿Qué fue la revolución industrial?"}
136
+ ]
137
+ input_ids = tokenizer.apply_chat_template(messages, tokenize=True, return_tensors="pt")
138
+ with torch.no_grad():
139
+ output = model.generate(input_ids, max_new_tokens=50)
140
+ print(tokenizer.decode(output[0], skip_special_tokens=True))
141
+ ```
142
+
143
+ ## Evaluation
144
+
145
+ To ensure the quality of the model, an extensive evaluation has been carried out on several datasets, showing significant performance in text generation and understanding instructions in Spanish. The specific details of the evaluation of the LeNIA-Chat models are available in the following table.
146
+
147
+ ## Evaluación
148
+
149
+ Para asegurar la calidad del modelo, se ha realizado una evaluación exhaustiva en varios conjuntos de datos, mostrando un rendimiento significativo en la generación de texto y la comprensión de instrucciones en español. Los detalles específicos de la evaluación de los modelos LeNIA-Chat están disponibles en la siguiente tabla.
150
+
151
+
152
+ ![image/png](https://cdn-uploads.huggingface.co/production/uploads/61f333df8f26cc42dc587011/V4pAiSeaj3-vKhuba9dPZ.png)
153
+
154
+ ## Contributions and Future Versions
155
+
156
+ We encourage the community to help to build better LLMs in Spanish by providing suggestions or feedback to improve the model. Collaboration is fundamental for AI advancements, specially to make it accessible and ethical.
157
+
158
+ We plan to keep on improving this model and launch future versions with advanced capabilities. Stay tuned to our updates through our [webpage](https://lenguajenatural.ai/) or our [LinkedIn page](https://www.linkedin.com/company/lenguajenatural-ai/)
159
+
160
+
161
+ ## Contribuciones
162
+ Animamos a la comunidad a contribuir con retroalimentación, sugerencias, y mejoras para este modelo. La colaboración es fundamental para el avance de la inteligencia artificial accesible y ética.
163
+
164
+ ## Futuras Versiones
165
+ Planeamos continuar mejorando este modelo y lanzar versiones futuras con capacidades ampliadas. Mantente atento a nuestras actualizaciones. Puedes estar al tanto en nuestra [página web](https://lenguajenatural.ai/) o nuestra [página de LinkedIn](https://www.linkedin.com/company/lenguajenatural-ai/).
166
+