File size: 2,768 Bytes
8c5a108
 
 
 
00aec0b
 
 
 
 
 
 
 
 
37ba6b0
00aec0b
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
d09c619
 
00aec0b
 
 
 
 
 
37ba6b0
00aec0b
 
37ba6b0
00aec0b
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
---
license: apache-2.0
language:
- ru
base_model:
- facebook/nllb-200-3.3B
---

# Модель машинного первода для языковой пары русский-мансийский


## Описание

Эта модель машинного перевода предназначена для перевода текста с мансийского на русский язык. Модель основана на модели `facebook/nllb200-3.3B`. Проект находится в стадии разработки и совершенствования.

Проект был создан в рамках Национального корпуса мансийского языка. Его цель - создать корпус параллельных предложений для языковой пары русский-мансийский, для сохранения и развития коренных малочисленных народов севера.

## Обновления в модели

- Расширен базовый словарь токенизатора за счет добавления мансийских символов и токенов.
- Добавлен языковой код для мансийского языка `mancy_Cyrl` (в будущих версиях будет изменен на `mns_Cyrl`).

## Установка

Для использования модели необходимо установить библиотеки `transformers` и `torch`:

```bash
pip install transformers torch
```

## Использование

### Загрузка модели и токенизатора

```python
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

# Замените 'your_model_name' на имя модели, которую вы хотите использовать
tokenizer = AutoTokenizer.from_pretrained("Neira/nllb-200-3.3B-ru-mns-2.0.2", tgt_lang="rus_Cyrl", src_lang="mancy_Cyrl", token="<your_token>")
model = AutoModelForSeq2SeqLM.from_pretrained("Neira/nllb-200-3.3B-ru-mns-2.0.2", token="<your_token>")
```

### Пример перевода

```python
# Пример текста для перевода
text = "Ма̄гвит акв ка̄сыл айēв"

# Токенизация текста
inputs = tokenizer(text, return_tensors="pt")

# Перевод текста
outputs = model.generate(**inputs)
translated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(translated_text)
```

## Лицензия

Модель и код предоставляются под лицензией [Apache 2.0](LICENSE). Пожалуйста, ознакомьтесь с условиями перед использованием.