Hugging Face's logo

Datasets:
MahtaFetrat
/
KaamelDict

Tasks:
Translation
Modalities:
Text
Formats:
csv
Languages:
Persian
Size:
100K - 1M
ArXiv:
Tags:
grapheme-to-phoneme
g2p
phoneme-translation
persian
farsi
dictionary
Libraries:
Datasets
pandas
License:
Dataset card Viewer Files Community
2
Dataset Viewer
Auto-converted to Parquet
Full Screen
grapheme
stringlengths
1
30
phoneme
stringlengths
2
195
واترپولو
('v', 'A', 't', 'e', 'r', 'p', 'o', 'l', 'o')
دولوکس
('d', 'o', 'l', 'u', 'k', 's')
شستشو‌‌دهنده
('S', 'o', 's', 't', 'e', 'S', 'u', 'd', 'a', 'h', 'a', 'n', 'd', 'e')
جوشی
('j', 'u', 'S', 'i')
فولاد
('f', 'u', 'l', 'A', 'd')
اذهان
('?', 'a', 'z', 'h', 'A', 'n')
گروگان
('g', 'e', 'r', 'o', 'g', 'A', 'n')
عوض
('?', 'a', 'v', 'a', 'z')
هزارباغ
('h', 'e', 'z', 'A', 'r', 'b', 'A', 'q')
منطقی
('m', 'a', 'n', 't', 'e', 'q', 'i')
حیاتی
('h', 'a', 'y', 'A', 't', 'i')
بوراکس
('b', 'o', 'r', 'A', 'k', 's')
آریایی
('?', 'A', 'r', 'i', 'y', 'A', '?', 'i')
هموژن
('h', 'e', 'm', 'o', 'Z', 'e', 'n')
برزنگی
('b', 'a', 'r', 'z', 'a', 'n', 'g', 'i')
کاتورید
('k', 'A', 't', 'o', 'r', 'i', 'd')
پونز
('p', 'u', 'n', 'e', 'z')
گزینشی
('g', 'o', 'z', 'i', 'n', 'e', 'S', 'i')
جنتی
('j', 'a', 'n', 'n', 'a', 't', 'i')
مستمری‌بگیر
('m', 'o', 's', 't', 'a', 'm', 'e', 'r', 'r', 'i', 'b', 'e', 'g', 'i', 'r')
مسعودیه
('m', 'a', 's', '?', 'u', 'd', 'i', 'y', 'y', 'e')
فریومد
('f', 'a', 'r', 'y', 'u', 'm', 'a', 'd')
فرادستی
('f', 'a', 'r', 'A', 'd', 'a', 's', 't', 'i')
نیم‌ساعته
('n', 'i', 'm', 's', 'A', '?', 'a', 't', 'e')
پا‌به‌سن‌گذاشته
('p', 'A', 'b', 'e', 's', 'e', 'n', 'g', 'o', 'z', 'A', 'S', 't', 'e')
سی‌‌سوالی
('s', 'i', 's', 'o', '?', 'A', 'l', 'i')
اشکل
('?', 'e', 'S', 'k', 'e', 'l')
دولتمرد
('d', 'o', 'l', 'a', 't', 'm', 'a', 'r', 'd')
افسردگی
('?', 'a', 'f', 's', 'o', 'r', 'd', 'e', 'g', 'i')
اسبچه
('?', 'a', 's', 'b', 'C', 'e')
فرانشیز
('f', 'e', 'r', 'A', 'n', 'S', 'i', 'z')
پورعرب
('p', 'u', 'r', '?', 'a', 'r', 'a', 'b')
دو‌مفعولی
('d', 'o', 'm', 'a', 'f', '?', 'u', 'l', 'i')
بریتانیا
('b', 'e', 'r', 'i', 't', 'A', 'n', 'i', 'y', 'A')
صدوق
('s', 'a', 'd', 'u', 'q')
یگانه‌پور
('y', 'e', 'g', 'A', 'n', 'e', 'p', 'u', 'r')
صدرایی
('s', 'a', 'd', 'r', 'A', 'y', 'i')
سفارش
('s', 'e', 'f', 'A', 'r', 'e', 'S')
وسطین
('v', 'a', 's', 'a', 't', 'e', 'y', 'n')
مطالعه‌یی
('m', 'o', 't', 'A', 'l', 'e', '?', 'e', 'y', 'i')
آلبرتینی
('?', 'A', 'l', 'b', 'e', 'r', 't', 'i', 'n', 'i')
آلیاژ
('?', 'A', 'l', 'y', 'A', 'Z')
آرزو
('?', 'A', 'r', 'e', 'z', 'u')
ستم‌بار
('s', 'e', 't', 'a', 'm', 'b', 'A', 'r', 'e')
عنتر
('?', 'a', 'n', 't', 'a', 'r')
متقاطع
('m', 'o', 't', 'e', 'q', 'A', 't', 'e', '?')
مروه
('m', 'a', 'r', 'v', 'e')
افیون
('?', 'a', 'f', 'y', 'u', 'n')
تلافی‌جویانه
('t', 'a', 'l', 'A', 'f', 'i', 'j', 'u', 'y', 'A', 'n', 'e')
هم‌جهتی
('h', 'a', 'm', 'j', 'a', 'h', 'a', 't', 'i')
دوگوشی
('d', 'o', 'g', 'u', 'S', 'i')
کهنه‌‌شده
('k', 'o', 'h', 'n', 'e', 'S', 'o', 'd', 'e')
جاسیگاری
('j', 'A', 's', 'i', 'g', 'A', 'r', 'i')
صحیح
('s', 'a', 'h', 'i', 'h')
صداخفه‌‌کن
('s', 'e', 'd', 'A', 'x', 'a', 'f', 'e', 'k', 'o', 'n')
کویلی
('k', 'o', 'y', 'l', 'i')
زیر‌برنامه‌
('z', 'i', 'r', 'b', 'r', 'n', 'A', 'm', 'e')
مرشد
('m', 'o', 'r', 'S', 'e', 'd')
ریکتزیا
('r', 'i', 'k', 'e', 't', 'z', 'i', 'y', 'A')
دوغاب
('d', 'u', 'q', 'A', 'b')
خرفت
('x', 'e', 'r', 'e', 'f', 't')
شهروز
('S', 'a', 'h', 'r', 'u', 'z')
دربازکن
('d', 'a', 'r', 'b', 'A', 'z', 'k', 'o', 'n')
موشک
('m', 'u', 'S', 'a', 'k')
سبقت
('s', 'e', 'b', 'q', 'a', 't')
تخته‌کلاه
('t', 'a', 'x', 't', 'e', 'k', 'o', 'l', 'A')
قاسم‌‌آبادی
('q', 'A', 's', 'e', 'm', 'A', 'b', 'A', 'd', 'i')
سئول
('s', 'e', '?', 'u', 'l')
سگ‌خور
('s', 'a', 'g', 'x', 'o', 'r')
سیمون
('s', 'i', 'm', 'o', 'n')
میترا
('m', 'i', 't', 'r', 'A')
نومیدکننده
('n', 'o', 'm', 'i', 'd', 'k', 'o', 'n', 'a', 'n', 'd', 'e')
هایل
('h', 'A', 'y', 'e', 'l')
ماران
('m', 'A', 'r', 'A', 'n')
دروغ‌سنج
('d', 'u', 'r', 'u', 'q', 's', 'a', 'n', 'j')
زوائد
('z', 'a', 'v', 'A', '?', 'e', 'd')
فرهنگ‌‌سازی
('f', 'a', 'r', 'h', 'a', 'n', 'g', 's', 'A', 'z', 'i')
بدرزاده
('b', 'a', 'd', 'r', 'z', 'A', 'd', 'e')
سیاه‌رود
('s', 'i', 'y', 'A', 'h', 'r', 'u', 'd')
ایسلند
('?', 'i', 's', 'l', 'a', 'n', 'd')
کاریز
('k', 'A', 'r', 'i', 'z')
صناعت
('s', 'a', 'n', 'A', '?', 'a', 't')
پتانسیل
('p', 'o', 't', 'A', 'n', 's', 'i', 'y', 'e', 'l')
بقلی
('b', 'a', 'q', 'l', 'i')
حضرات
('h', 'a', 'z', 'a', 'r', 'A', 't')
گاورس
('g', 'A', 'v', 'r', 'a', 's')
حکیم‌باشی
('h', 'a', 'k', 'i', 'm', 'b', 'A', 'S', 'i')
کیموس
('k', 'i', 'm', 'u', 's')
تازه‌خریداری‌شده
('t', 'A', 'z', 'e', 'x', 'a', 'r', 'i', 'd', 'A', 'r', 'i', 'S', 'o', 'd', 'e')
هوشمند
('h', 'u', 'S', 'm', 'a', 'n', 'd')
خرک
('x', 'a', 'r', 'a', 'k')
تشکیکی
('t', 'a', 'S', 'k', 'i', 'k', 'i')
ناروایی
('n', 'A', 'r', 'a', 'v', 'A', 'y', 'i')
آلفا‌هیدروکسی
('?', 'A', 'l', 'f', 'A', 'h', 'i', 'd', 'r', 'o', 'k', 's', 'i')
بزرگ‌شده
('b', 'o', 'z', 'o', 'r', 'g', 'S', 'o', 'd', 'e')
آسوده‌خاطر
('?', 'A', 's', 'u', 'd', 'e', 'x', 'A', 't', 'e', 'r')
الهی‌نامه
('?', 'e', 'l', 'A', 'h', 'i', 'n', 'A', 'm', 'e')
جفتدار
('j', 'o', 'f', 't', 'd', 'A', 'r')
طوس
('t', 'u', 's')
مطرود
('m', 'a', 't', 'r', 'u', 'd')
End of preview. Expand in Dataset Viewer.

Kaamel-Dict: A Comprehensive Persian G2P Dictionary

Hugging Face

Kaamel-Dict is the largest publicly available Persian grapheme-to-phoneme (G2P) dictionary, containing over 120,000 entries. It was developed by unifying multiple phonetic representation systems from existing G2P tools [1] [2] [3] [4] and datasets [5] [6] [7] [8] [9] and an additional online glossary [10] , called Jame` Dictionary, . This dictionary is released under the GNU license, allowing it to be used for developing G2P models, Persian text-to-speech (TTS) systems, or linguistic research.

Phoneme Representation

The phonetic symbols used in this dataset correspond to Persian phonemes. Below is a reference table for the specific symbols and their IPA equivalents:

Symbol Persian Sound IPA Equivalent Example
A آ, ا (long vowel) æ ماه: mAh
a َ (short vowel) ɒː درد: dard
u او (long vowel) uː دوست: dust
i ای (long vowel) iː میز: miz
o ُ (short vowel) o ظهر: zohr
e ِ (short vowel) e ذهن: zehn
S ش (consonant) ʃ شهر: Sahr
C چ (consonant) tʃʰ چتر: Catr
Z ژ (consonant) ʒ ژاله: ZAle
q غ، ق (consonant) ɣ, q غذا: qazA, قند: qand
x خ (consonant) x خاک: xAk
r ر (consonant) ɾ روح: ruh
y ی (consonant) j یار: yAr
j ج (consonant) dʒ نجات: nejAt
v و (consonant) v ورم: varam
? ع، ء، ئ (consonant) ʔ عمر: ?omr, آینده: ?Ayande

License

Kaamel-Dict is distributed under the GNU General Public License, making it freely available for redistribution and modification under the same terms as its source materials. All source dictionaries are licensed for redistribution.

How to Use

You can download the dataset from Here or clone the repository:

git clone https://huggingface.co/datasets/MahtaFetrat/KaamelDict

References

The following datasets and resources were used to create Kaamel-Dict:

@misc{ipa-dict,
  title = {IPA-dict: Monolingual wordlists with pronunciation information in IPA},
  year = {2023},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/open-dict-data/ipa-dict}},
}

@misc{tihu-dict,
  title = {Tihu Persia Dictionary},
  year = {2019},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/tihu-nlp/tihudict}},
}

@misc{IPA-Translator,
  title = {IPA-Translator},
  year = {2022},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/lotusfa/IPA-Translator}},
}

@misc{wiktionary,
  title        = {Wiktionary free dataset},
  howpublished = {\url{https://www.wiktionary.org/}},
  note         = {Accessed: 2024-09-05}
}

@misc{zaya,
  title        = {Persian Zaya Dictionary},
  howpublished = {\url{https://www.peykaregan.ir/dataset/}},
  note         = {Accessed: 2024-09-05}
}

@misc{jame,
  title        = {Persian Jame Glossary},
  howpublished = {\url{http://farhang.apll.ir/}},
  note         = {Accessed: 2024-09-05}
}

@misc{mohammadhasan,
  author       = {Mohammad Hasan Sohan Ajini},
  title        = {Attention Based Grapheme To Phoneme},
  howpublished = {\url{https://github.com/mohamad-hasan-sohan-ajini/G2P}},
  year         = {2022},
  note         = {Accessed: 2024-09-05}
}

@misc{azamrabiee,
  author = {Rabiee, Azam},
  title = {Persian g2p},
  year = {2019},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/AzamRabiee/Persian\_G2P}},
  note         = {Accessed: 2024-09-05}
}

@misc{PasaOpasen,
  author       = {Demetry Pasсal},
  title        = {Simple persian (farsi) grapheme-to-phoneme converter},
  howpublished = {\url{https://github.com/PasaOpasen/PersianG2P}},
  year         = {2020},
  note         = {Accessed: 2024-09-05}
}

@article{zhu2022charsiu-g2p,
  title={ByT5 model for massively multilingual grapheme-to-phoneme conversion},
  author={Zhu, Jian and Zhang, Cong and Jurgens, David},
  url = {https://arxiv.org/abs/2204.03067},
  doi = {10.48550/ARXIV.2204.03067},
  year={2022}
}

Contact

For any questions or inquiries, feel free to open an issue or contact the author at [[email protected]].

Citation

If you use KaamelDict in your research or projects, please cite the following paper:

@misc{fetrat2024llmpoweredg2p,
      title={LLM-Powered Grapheme-to-Phoneme Conversion: Benchmark and Case Study}, 
      author={Mahta Fetrat Qharabagh and Zahra Dehghanian and Hamid R. Rabiee},
      year={2024},
      eprint={2409.08554},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2409.08554}, 
}
Downloads last month
58
Edit dataset card
Size of downloaded dataset files:
7.95 MB
Size of the auto-converted Parquet files:
2.86 MB
Number of rows:
120,589