from .mana_tokenizer import ManaTokenizer tokenizer = ManaTokenizer() text = "سلام من یک متن تست برای تست این تست هستم." print(tokenizer.encode(text)) print(tokenizer.decode(tokenizer.encode(text)))