Neira/nllb-200-3.3B-ru-mns-2.0.2

Модель машинного первода для языковой пары русский-мансийский

Описание

Эта модель машинного перевода предназначена для перевода текста с мансийского на русский язык. Модель основана на модели facebook/nllb200-3.3B. Проект находится в стадии разработки и совершенствования.

Проект был создан в рамках Национального корпуса мансийского языка. Его цель - создать корпус параллельных предложений для языковой пары русский-мансийский, для сохранения и развития коренных малочисленных народов севера.

Обновления в модели

• Расширен базовый словарь токенизатора за счет добавления мансийских символов и токенов.
• Добавлен языковой код для мансийского языка mancy_Cyrl (в будущих версиях будет изменен на mns_Cyrl).

Установка

Для использования модели необходимо установить библиотеки transformers и torch:

pip install transformers torch

Использование

Загрузка модели и токенизатора

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

# Замените 'your_model_name' на имя модели, которую вы хотите использовать
tokenizer = AutoTokenizer.from_pretrained("Neira/nllb-200-3.3B-ru-mns-2.0.2", tgt_lang="rus_Cyrl", src_lang="mancy_Cyrl", token="<your_token>")
model = AutoModelForSeq2SeqLM.from_pretrained("Neira/nllb-200-3.3B-ru-mns-2.0.2", token="<your_token>")

Пример перевода

# Пример текста для перевода
text = "Ма̄гвит акв ка̄сыл айēв"

# Токенизация текста
inputs = tokenizer(text, return_tensors="pt")

# Перевод текста
outputs = model.generate(**inputs)
translated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(translated_text)

Лицензия

Модель и код предоставляются под лицензией Apache 2.0. Пожалуйста, ознакомьтесь с условиями перед использованием.