Hugging Face's logo

QuantFactory
/
OmniLing-V1-12b-experimental-GGUF

Text Generation
Transformers
GGUF
Russian
English
unsloth
Inference Endpoints
conversational
Model card Files Community
OmniLing-V1-12b-experimental-GGUF
File size: 2,819 Bytes 
1fc09f7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
 

---

license: cc-by-nc-4.0
library_name: transformers
tags:
- unsloth
base_model: mistralai/Mistral-Nemo-Instruct-2407
language:
- ru
- en
pipeline_tag: text-generation
datasets:
- WoonaAI/Rus-Eng-Data

---

[![QuantFactory Banner](https://lh7-rt.googleusercontent.com/docsz/AD_4nXeiuCm7c8lEwEJuRey9kiVZsRn2W-b4pWlu3-X534V3YmVuVc2ZL-NXg2RkzSOOS2JXGHutDuyyNAUtdJI65jGTo8jT9Y99tMi4H4MqL44Uc5QKG77B0d6-JfIkZHFaUA71-RtjyYZWVIhqsNZcx8-OMaA?key=xt3VSDoCbmTY7o-cwwOFwQ)](https://hf.co/QuantFactory)


# QuantFactory/OmniLing-V1-12b-experimental-GGUF
This is quantized version of [WoonaAI/OmniLing-V1-12b-experimental](https://huggingface.co/WoonaAI/OmniLing-V1-12b-experimental) created using llama.cpp

# Original Model Card


# Это экспериментальный релиз, созданный исключительно в исследовательских целях! К сожалению, стабильная работа не гарантируется

## GGUF's

Thanks mradermacher!)

Static: https://huggingface.co/mradermacher/OmniLing-V1-12b-experimental-GGUF

IMatrix: https://huggingface.co/mradermacher/OmniLing-V1-12b-experimental-i1-GGUF

## Model overview
 
OmniLing - модель, созданная для переводов между русским и английским языком (пары RU->EN, EN->RU). Эта модель является тонкой настройкой **Mistral Nemo 12b**. Она находится на одном уровне с крупнейшими проприетарными моделями и может быть использована для качественного перевода художественных текстов, датасетов, сообщений пользователей, описаний и т.п При обучении были использованы собственноручно сгенерированные данные от более сильной модели.

## Prompt Template - Mistral Nemo Instruct

## Recommended settings

Очень рекомендуется использовать низкую температуру T=(0.1-0.3)

Не указывайте в system prompt задачу перевести этот текст, там должно быть что-то нейтральное (e.g You are a helpful AI assistant). Указывайте сообщение в user message (см. Prompt Template), модель была обучена именно под такой формат.

## Authors
Made by PegasusYaY(AlexBefest) and secretmoon


## License

This model is released under the [Creative Commons Attribution-NonCommercial 4.0 International License](https://creativecommons.org/licenses/by-nc/4.0/). If you want to use this model in your commercial product, contact with us.