ESLO.py

import os
import re
from functools import lru_cache
from ctypes import Array
from dataclasses import dataclass
from typing import List
import xml.etree.ElementTree as ET
import ffmpeg
import csv
import datasets
import numpy as np

_CITATION = """\
@misc{11403/eslo/v1,
    title = {ESLO},
    author = {LLL},
    url = {https://hdl.handle.net/11403/eslo/v1},
    note = {{ORTOLANG} ({Open} {Resources} {and} {TOols} {for} {LANGuage}) \textendash www.ortolang.fr},
    copyright = {Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Partage dans les Mêmes Conditions 4.0 International},
    year = {2023}
}
"""

_DESCRIPTION = """\
ESLO dataset, each utterance are taken out individually
"""
SAMPLING_RATE = 16000
AUDIO_FOLDER = "audio"

AUDIO_FILES = ['ESLO2_ITI_1073.mp4', 'ESLO1_ENT_117.mp4', 'ESLO1_ENT_103.mp4', 'ESLO2_ITI_1098.mp4', 'ESLO1_ENTCONT_237.mp4', 'ESLO1_ENTCONT_223.mp4', 'ESLO2_RUMEUR_1339.mp4', 'ESLO2_INTPERS_1245.mp4', 'ESLO1_TEL_364.mp4', 'ESLO2_ITI_1107.mp4', 'ESLO1_CONF_503.mp4', 'ESLO1_MAG_631.mp4', 'ESLO1_MAG_625.mp4', 'ESLO1_TEL_370.mp4', 'ESLO2_ITI_1113.mp4', 'ESLO1_ENT_063.mp4', 'ESLO2_LIVRENF_1317.mp4', 'ESLO2_LIVRENF_1303.mp4', 'ESLO1_ENT_077.mp4', 'ESLO2_ENT_1022.mp4', 'ESLO2_ENT_1036.mp4', 'ESLO1_INTPERS_406.mp4', 'ESLO1_ENT_088.mp4', 'ESLO1_ENT_089.mp4', 'ESLO1_INTPERS_407.mp4', 'ESLO2_ENT_1037.mp4', 'ESLO2_ENT_1023.mp4', 'ESLO2_LIVRENF_1302.mp4', 'ESLO1_ENT_076.mp4', 'ESLO1_ENT_062.mp4', 'ESLO2_LIVRENF_1316.mp4', 'ESLO2_ITI_1112.mp4', 'ESLO1_TEL_371.mp4', 'ESLO1_MAG_630.mp4', 'ESLO1_CONF_502.mp4', 'ESLO2_ITI_1106.mp4', 'ESLO1_TEL_365.mp4', 'ESLO2_RUMEUR_1338.mp4', 'ESLO1_ENTCONT_236.mp4', 'ESLO1_VISIT_601.mp4', 'ESLO1_REU_542.mp4', 'ESLO2_ITI_1099.mp4', 'ESLO1_ENT_102.mp4', 'ESLO1_ENT_116.mp4', 'ESLO2_ITI_1072.mp4', 'ESLO1_ENT_128.mp4', 'ESLO1_ENT_100.mp4', 'ESLO1_ENT_114.mp4', 'ESLO1_REU_554.mp4', 'ESLO1_ENTCONT_208.mp4', 'ESLO1_VISIT_603.mp4', 'ESLO1_ENT_048.mp4', 'ESLO1_MAG_626.mp4', 'ESLO1_TEL_373.mp4', 'ESLO2_ITI_1110.mp4', 'ESLO2_LIVRENF_1328.mp4', 'ESLO1_TEL_367.mp4', 'ESLO2_ITI_1104.mp4', 'ESLO2_LIVRENF_1314.mp4', 'ESLO1_ENT_060.mp4', 'ESLO2_ITI_1138.mp4', 'ESLO2_ENT_1035.mp4', 'ESLO2_ENT_1021.mp4', 'ESLO1_INTPERS_439.mp4', 'ESLO2_ENT_1009.mp4', 'ESLO2_ENT_1008.mp4', 'ESLO1_INTPERS_438.mp4', 'ESLO2_ENT_1020.mp4', 'ESLO2_ENT_1034.mp4', 'ESLO2_LIVRENF_1315.mp4', 'ESLO2_ITI_1139.mp4', 'ESLO1_ENT_061.mp4', 'ESLO1_ENT_075.mp4', 'ESLO2_ITI_1105.mp4', 'ESLO1_TEL_366.mp4', 'ESLO2_ITI_1111.mp4', 'ESLO1_MAG_627.mp4', 'ESLO1_ENTCONT_235.mp4', 'ESLO1_VISIT_602.mp4', 'ESLO1_ENT_115.mp4', 'ESLO1_ENT_101.mp4', 'ESLO1_ENT_129.mp4', 'ESLO1_ENT_105.mp4', 'ESLO1_ENT_111.mp4', 'ESLO1_ENT_139.mp4', 'ESLO1_ENTCONT_225.mp4', 'ESLO1_ENTCONT_219.mp4', 'ESLO1_REU_551.mp4', 'ESLO2_ENTJEUN_1228.mp4', 'ESLO2_LIVRENF_1305.mp4', 'ESLO2_ITI_1129.mp4', 'ESLO1_ENT_071.mp4', 'ESLO1_ENT_065.mp4', 'ESLO2_LIVRENF_1311.mp4', 'ESLO2_ITI_1115.mp4', 'ESLO1_TEL_362.mp4', 'ESLO2_ITI_1101.mp4', 'ESLO1_ENT_059.mp4', 'ESLO1_CONF_505.mp4', 'ESLO2_ENT_1018.mp4', 'ESLO2_ENT_1030.mp4', 'ESLO1_INTPERS_414.mp4', 'ESLO2_ENT_1024.mp4', 'ESLO2_ENT_1025.mp4', 'ESLO1_INTPERS_415.mp4', 'ESLO1_INTPERS_401.mp4', 'ESLO2_ENT_1031.mp4', 'ESLO1_INTPERS_429.mp4', 'ESLO2_ENT_1019.mp4', 'ESLO1_CONF_504.mp4', 'ESLO1_ENT_058.mp4', 'ESLO2_ITI_1100.mp4', 'ESLO2_ITI_1114.mp4', 'ESLO1_ENT_064.mp4', 'ESLO2_LIVRENF_1310.mp4', 'ESLO2_LIVRENF_1304.mp4', 'ESLO1_ENT_070.mp4', 'ESLO2_ITI_1128.mp4', 'ESLO2_ENTJEUN_1229.mp4', 'ESLO1_ENTCONT_218.mp4', 'ESLO1_ENTCONT_230.mp4', 'ESLO1_ENTCONT_224.mp4', 'ESLO1_ENT_138.mp4', 'ESLO1_ENT_110.mp4', 'ESLO1_ENT_104.mp4', 'ESLO1_ENT_112.mp4', 'ESLO1_ENT_106.mp4', 'ESLO2_ITI_1089.mp4', 'ESLO1_ENTCONT_226.mp4', 'ESLO2_DISC_1239.mp4', 'ESLO2_LIVRENF_1312.mp4', 'ESLO1_ENT_066.mp4', 'ESLO1_TEL_349.mp4', 'ESLO1_ENT_072.mp4', 'ESLO2_LIVRENF_1306.mp4', 'ESLO1_TEL_361.mp4', 'ESLO2_ITI_1102.mp4', 'ESLO1_MAG_634.mp4', 'ESLO2_ITI_1116.mp4', 'ESLO1_INTPERS_417.mp4', 'ESLO1_ENT_099.mp4', 'ESLO2_ENT_1027.mp4', 'ESLO2_ENT_1033.mp4', 'ESLO1_INTPERS_403.mp4', 'ESLO1_INTPERS_402.mp4', 'ESLO2_ENT_1032.mp4', 'ESLO2_ENT_1026.mp4', 'ESLO1_ENT_098.mp4', 'ESLO1_INTPERS_416.mp4', 'ESLO2_ITI_1117.mp4', 'ESLO2_ITI_1103.mp4', 'ESLO1_TEL_360.mp4', 'ESLO1_ENT_073.mp4', 'ESLO1_TEL_348.mp4', 'ESLO2_LIVRENF_1307.mp4', 'ESLO2_LIVRENF_1313.mp4', 'ESLO1_ENT_067.mp4', 'ESLO2_DISC_1238.mp4', 'ESLO2_ITI_1088.mp4', 'ESLO1_ENT_107.mp4', 'ESLO1_ENT_113.mp4', 'ESLO1_ENT_148.mp4', 'ESLO1_ENT_160.mp4', 'ESLO2_ECOLE_1290.mp4', 'ESLO2_ECOLE_1284.mp4', 'ESLO1_REU_520.mp4', 'ESLO2_CINE_1207.mp4', 'ESLO2_CINE_1213.mp4', 'ESLO1_CONSCMPP_717.mp4', 'ESLO1_CONSCMPP_703.mp4', 'ESLO1_TEL_307.mp4', 'ESLO2_ENT_1082.mp4', 'ESLO2_ITI_1164.mp4', 'ESLO2_ITI_1170.mp4', 'ESLO1_ENT_028.mp4', 'ESLO2_REPAS_1260.mp4', 'ESLO2_ITI_1158.mp4', 'ESLO1_ENT_014.mp4', 'ESLO2_ENT_1041.mp4', 'ESLO2_ENT_1055.mp4', 'ESLO1_ENTCLO_259.mp4', 'ESLO2_ENT_1069.mp4', 'ESLO2_ENT_1068.mp4', 'ESLO2_ENT_1054.mp4', 'ESLO1_ENTCLO_264.mp4', 'ESLO2_ENT_1040.mp4', 'ESLO1_ENT_015.mp4', 'ESLO1_ENT_001.mp4', 'ESLO2_ITI_1159.mp4', 'ESLO2_REPAS_1261.mp4', 'ESLO1_ENT_029.mp4', 'ESLO2_ITI_1171.mp4', 'ESLO1_TEL_312.mp4', 'ESLO2_ITI_1165.mp4', 'ESLO2_ENT_1083.mp4', 'ESLO1_CONSCMPP_702.mp4', 'ESLO1_CONSCMPP_716.mp4', 'ESLO2_CINE_1212.mp4', 'ESLO2_CINE_1206.mp4', 'ESLO2_ECOLE_1285.mp4', 'ESLO1_ENTOUV_257.mp4', 'ESLO2_ECOLE_1291.mp4', 'ESLO1_ENT_161.mp4', 'ESLO2_CONF_1074.mp4', 'ESLO2_ECOLE_1252.mp4', 'ESLO1_ENT_149.mp4', 'ESLO2_CINE_1199.mp4', 'ESLO1_REPAS_278.mp4', 'ESLO1_ENT_163.mp4', 'ESLO2_ECOLE_1278.mp4', 'ESLO2_ECOLE_1287.mp4', 'ESLO2_ECOLE_1293.mp4', 'ESLO2_CINE_1210.mp4', 'ESLO1_CONSCMPP_728.mp4', 'ESLO2_CINE_1204.mp4', 'ESLO2_ITI_1173.mp4', 'ESLO1_MAG_645.mp4', 'ESLO2_ENT_1081.mp4', 'ESLO2_ITI_1167.mp4', 'ESLO1_ENT_017.mp4', 'ESLO1_TEL_338.mp4', 'ESLO2_REPAS_1263.mp4', 'ESLO1_ENT_003.mp4', 'ESLO2_ENT_1056.mp4', 'ESLO2_ENT_1042.mp4', 'ESLO2_ENT_1043.mp4', 'ESLO2_ENT_1057.mp4', 'ESLO1_ENT_002.mp4', 'ESLO2_REPAS_1262.mp4', 'ESLO2_ITI_1166.mp4', 'ESLO2_ENT_1080.mp4', 'ESLO1_MAG_650.mp4', 'ESLO2_ITI_1172.mp4', 'ESLO1_CONSCMPP_701.mp4', 'ESLO2_CINE_1205.mp4', 'ESLO2_CINE_1211.mp4', 'ESLO2_ECOLE_1292.mp4', 'ESLO1_ENTOUV_254.mp4', 'ESLO2_ECOLE_1286.mp4', 'ESLO2_ECOLE_1279.mp4', 'ESLO1_REPAS_279.mp4', 'ESLO2_CINE_1198.mp4', 'ESLO1_ENT_166.mp4', 'ESLO2_CINE_1188.mp4', 'ESLO1_ENT_172.mp4', 'ESLO2_ECOLE_1282.mp4', 'ESLO2_ECOLE_1296.mp4', 'ESLO2_CINE_1177.mp4', 'ESLO1_CONSCMPP_705.mp4', 'ESLO1_CONSCMPP_711.mp4', 'ESLO2_CINE_1215.mp4', 'ESLO2_CINE_1201.mp4', 'ESLO1_ENT_012.mp4', 'ESLO2_REPAS_1266.mp4', 'ESLO1_ENT_006.mp4', 'ESLO1_TEL_301.mp4', 'ESLO2_ITI_1162.mp4', 'ESLO2_ENT_1084.mp4', 'ESLO1_INTPERS_463.mp4', 'ESLO2_ENT_1053.mp4', 'ESLO2_ENT_1047.mp4', 'ESLO2_ENT_1046.mp4', 'ESLO2_ENT_1052.mp4', 'ESLO1_INTPERS_462.mp4', 'ESLO2_ENT_1085.mp4', 'ESLO2_ITI_1163.mp4', 'ESLO1_ENT_007.mp4', 'ESLO2_REPAS_1267.mp4', 'ESLO1_ENT_013.mp4', 'ESLO2_CINE_1200.mp4', 'ESLO2_CINE_1214.mp4', 'ESLO1_CONSCMPP_710.mp4', 'ESLO1_CONSCMPP_704.mp4', 'ESLO1_REU_296.mp4', 'ESLO2_CINE_1176.mp4', 'ESLO2_ECOLE_1297.mp4', 'ESLO2_ECOLE_1283.mp4', 'ESLO1_ENT_173.mp4', 'ESLO2_CINE_1189.mp4', 'ESLO1_ENT_167.mp4', 'ESLO1_ENT_165.mp4', 'ESLO1_ENT_159.mp4', 'ESLO2_ECOLE_1295.mp4', 'ESLO2_ECOLE_1281.mp4', 'ESLO1_REU_519.mp4', 'ESLO1_MAG_290.mp4', 'ESLO1_REU_294.mp4', 'ESLO1_CONSCMPP_712.mp4', 'ESLO2_CINE_1202.mp4', 'ESLO2_CINE_1216.mp4', 'ESLO2_REPAS_1265.mp4', 'ESLO1_ENT_005.mp4', 'ESLO1_ENT_011.mp4', 'ESLO2_REPAS_1271.mp4', 'ESLO2_ITI_1149.mp4', 'ESLO1_TEL_302.mp4', 'ESLO2_REPAS_1259.mp4', 'ESLO2_ITI_1161.mp4', 'ESLO1_TEL_316.mp4', 'ESLO2_ITI_1175.mp4', 'ESLO1_INTPERS_448.mp4', 'ESLO2_ENT_1078.mp4', 'ESLO2_ENT_1044.mp4', 'ESLO2_ENT_1050.mp4', 'ESLO2_ENT_1051.mp4', 'ESLO1_INTPERS_461.mp4', 'ESLO2_ENT_1045.mp4', 'ESLO2_ENT_1079.mp4', 'ESLO1_INTPERS_449.mp4', 'ESLO2_ITI_1174.mp4', 'ESLO1_TEL_317.mp4', 'ESLO2_ITI_1160.mp4', 'ESLO2_REPAS_1258.mp4', 'ESLO2_ITI_1148.mp4', 'ESLO2_REPAS_1270.mp4', 'ESLO1_ENT_010.mp4', 'ESLO1_ENT_004.mp4', 'ESLO2_REPAS_1264.mp4', 'ESLO2_CINE_1217.mp4', 'ESLO2_CINE_1203.mp4', 'ESLO1_CONSCMPP_707.mp4', 'ESLO1_CONSCMPP_713.mp4', 'ESLO2_ECOLE_1280.mp4', 'ESLO2_ECOLE_1294.mp4', 'ESLO1_ENTOUV_252.mp4', 'ESLO1_ENT_164.mp4', 'ESLO1_ENT_170.mp4', 'ESLO2_CINE_1193.mp4', 'ESLO1_REPAS_272.mp4', 'ESLO1_ENT_169.mp4', 'ESLO2_CINE_1187.mp4', 'ESLO1_ENT_155.mp4', 'ESLO1_ENT_141.mp4', 'ESLO1_ENTOUV_263.mp4', 'ESLO2_ECOLE_1299.mp4', 'ESLO2_CINE_1178.mp4', 'ESLO2_CONF_1242.mp4', 'ESLO1_CONSCMPP_722.mp4', 'ESLO2_ITI_1145.mp4', 'ESLO1_MAG_673.mp4', 'ESLO1_ENT_009.mp4', 'ESLO2_REPAS_1269.mp4', 'ESLO1_TEL_332.mp4', 'ESLO2_ITI_1151.mp4', 'ESLO1_ENT_021.mp4', 'ESLO2_REPAS_1255.mp4', 'ESLO1_INTPERS_450.mp4', 'ESLO2_ENT_1060.mp4', 'ESLO2_ENT_1048.mp4', 'ESLO2_ENT_1049.mp4', 'ESLO1_INTPERS_445.mp4', 'ESLO2_ENT_1075.mp4', 'ESLO2_ENT_1061.mp4', 'ESLO1_INTPERS_451.mp4', 'ESLO2_REPAS_1254.mp4', 'ESLO1_ENT_020.mp4', 'ESLO2_ITI_1150.mp4', 'ESLO2_REPAS_1268.mp4', 'ESLO1_ENT_008.mp4', 'ESLO2_ITI_1144.mp4', 'ESLO1_CONSCMPP_723.mp4', 'ESLO1_CONSCMPP_737.mp4', 'ESLO2_MEDIA_1248.mp4', 'ESLO2_CONF_1243.mp4', 'ESLO2_CINE_1179.mp4', 'ESLO2_ECOLE_1298.mp4', 'ESLO1_ENT_140.mp4', 'ESLO2_CINE_1186.mp4', 'ESLO2_ECOLE_1273.mp4', 'ESLO1_REPAS_273.mp4', 'ESLO2_CINE_1192.mp4', 'ESLO2_CINE_1184.mp4', 'ESLO2_CINE_1190.mp4', 'ESLO1_ENT_142.mp4', 'ESLO1_ENT_156.mp4', 'ESLO1_ENTOUV_260.mp4', 'ESLO2_CONF_1241.mp4', 'ESLO2_ENT_1329.mp4', 'ESLO1_CONSCMPP_709.mp4', 'ESLO1_CONSCMPP_721.mp4', 'ESLO1_CONSCMPP_735.mp4', 'ESLO2_CINE_1219.mp4', 'ESLO2_ITI_1152.mp4', 'ESLO2_ITI_1146.mp4', 'ESLO2_REPAS_1256.mp4', 'ESLO1_ENT_022.mp4', 'ESLO1_TEL_319.mp4', 'ESLO1_ENTCLO_253.mp4', 'ESLO2_ENT_1077.mp4', 'ESLO1_INTPERS_447.mp4', 'ESLO1_INTPERS_453.mp4', 'ESLO2_ENT_1063.mp4', 'ESLO2_ENT_1062.mp4', 'ESLO1_INTPERS_452.mp4', 'ESLO1_INTPERS_446.mp4', 'ESLO2_ENT_1076.mp4', 'ESLO1_TEL_318.mp4', 'ESLO1_ENT_023.mp4', 'ESLO2_REPAS_1257.mp4', 'ESLO2_ITI_1147.mp4', 'ESLO2_ITI_1153.mp4', 'ESLO1_CONSCMPP_734.mp4', 'ESLO2_CINE_1218.mp4', 'ESLO1_CONSCMPP_720.mp4', 'ESLO1_CONSCMPP_708.mp4', 'ESLO2_CONF_1240.mp4', 'ESLO1_REU_517.mp4', 'ESLO1_ENT_143.mp4', 'ESLO1_REPAS_270.mp4', 'ESLO2_CINE_1191.mp4', 'ESLO2_CINE_1185.mp4', 'ESLO1_ENT_147.mp4', 'ESLO1_ENT_153.mp4', 'ESLO2_CINE_1181.mp4', 'ESLO1_REPAS_274.mp4', 'ESLO2_CINE_1195.mp4', 'ESLO2_ECOLE_1274.mp4', 'ESLO1_REU_513.mp4', 'ESLO2_CONF_1244.mp4', 'ESLO1_CONSCMPP_724.mp4', 'ESLO2_CINE_1208.mp4', 'ESLO1_CONSCMPP_730.mp4', 'ESLO1_CONSCMPP_718.mp4', 'ESLO2_CINE_1220.mp4', 'ESLO2_REPAS_1253.mp4', 'ESLO1_TEL_308.mp4', 'ESLO1_ENT_027.mp4', 'ESLO2_REPAS_1247.mp4', 'ESLO1_TEL_334.mp4', 'ESLO2_ITI_1157.mp4', 'ESLO2_ITI_1143.mp4', 'ESLO2_ECOLE_1300.mp4', 'ESLO1_ENTCLO_256.mp4', 'ESLO2_ENT_1066.mp4', 'ESLO2_ENT_1067.mp4', 'ESLO2_ECOLE_1301.mp4', 'ESLO2_ITI_1142.mp4', 'ESLO2_ITI_1156.mp4', 'ESLO1_ENT_026.mp4', 'ESLO1_CONSCMPP_731.mp4', 'ESLO1_CONSCMPP_725.mp4', 'ESLO2_CINE_1209.mp4', 'ESLO1_ENTOUV_258.mp4', 'ESLO2_ECOLE_1275.mp4', 'ESLO2_CINE_1194.mp4', 'ESLO1_REPAS_275.mp4', 'ESLO2_CINE_1180.mp4', 'ESLO1_ENT_152.mp4', 'ESLO1_ENT_146.mp4', 'ESLO1_ENT_150.mp4', 'ESLO2_REPAS_1330.mp4', 'ESLO1_ENT_144.mp4', 'ESLO2_CINE_1196.mp4', 'ESLO2_ECOLE_1277.mp4', 'ESLO2_CINE_1182.mp4', 'ESLO2_ECOLE_1288.mp4', 'ESLO1_CONSCMPP_733.mp4', 'ESLO1_CONSCMPP_727.mp4', 'ESLO1_ENT_024.mp4', 'ESLO1_DIV_292.mp4', 'ESLO2_ITI_1168.mp4', 'ESLO1_ENT_030.mp4', 'ESLO2_ITI_1140.mp4', 'ESLO1_ENT_018.mp4', 'ESLO1_MAG_662.mp4', 'ESLO2_ITI_1154.mp4', 'ESLO2_ENT_1059.mp4', 'ESLO2_ENT_1065.mp4', 'ESLO1_ENTCLO_255.mp4', 'ESLO2_ENT_1071.mp4', 'ESLO1_INTPERS_441.mp4', 'ESLO1_INTPERS_440.mp4', 'ESLO2_ENT_1070.mp4', 'ESLO2_ENT_1064.mp4', 'ESLO2_ENT_1058.mp4', 'ESLO2_ITI_1155.mp4', 'ESLO1_TEL_336.mp4', 'ESLO1_ENT_019.mp4', 'ESLO2_ITI_1141.mp4', 'ESLO2_ITI_1169.mp4', 'ESLO1_ENT_025.mp4', 'ESLO2_ENT_1272.mp4', 'ESLO1_CONSCMPP_726.mp4', 'ESLO1_CONSCMPP_732.mp4', 'ESLO2_24H_1249.mp4', 'ESLO2_ECOLE_1289.mp4', 'ESLO2_CINE_1183.mp4', 'ESLO2_ECOLE_1276.mp4', 'ESLO2_CINE_1197.mp4', 'ESLO1_ENT_145.mp4', 'ESLO1_ENT_151.mp4', 'ESLO1_ENT_136.mp4', 'ESLO1_ENT_122.mp4', 'ESLO2_ITI_1091.mp4', 'ESLO2_BOUL_1332.mp4', 'ESLO2_DIA_1226.mp4', 'ESLO1_ENTCONT_216.mp4', 'ESLO1_ENTCONT_202.mp4', 'ESLO2_ENTJEUN_1233.mp4', 'ESLO1_CONSCMPP_741.mp4', 'ESLO1_TEL_345.mp4', 'ESLO2_ITI_1126.mp4', 'ESLO1_TEL_351.mp4', 'ESLO2_ITI_1132.mp4', 'ESLO1_ENT_042.mp4', 'ESLO2_LIVRENF_1322.mp4', 'ESLO1_ENT_056.mp4', 'ESLO2_ENT_1003.mp4', 'ESLO1_INTPERS_427.mp4', 'ESLO2_ENT_1017.mp4', 'ESLO1_ENT_081.mp4', 'ESLO1_ENT_095.mp4', 'ESLO1_ENT_094.mp4', 'ESLO1_ENT_080.mp4', 'ESLO2_ENT_1016.mp4', 'ESLO1_INTPERS_426.mp4', 'ESLO2_ENT_1002.mp4', 'ESLO2_LIVRENF_1323.mp4', 'ESLO1_ENT_057.mp4', 'ESLO1_ENT_043.mp4', 'ESLO2_ITI_1133.mp4', 'ESLO1_TEL_350.mp4', 'ESLO2_ITI_1127.mp4', 'ESLO1_CONSCMPP_740.mp4', 'ESLO2_ENTJEUN_1232.mp4', 'ESLO1_ENTCONT_203.mp4', 'ESLO1_ENTCONT_217.mp4', 'ESLO2_DIA_1227.mp4', 'ESLO2_ITI_1090.mp4', 'ESLO1_ENT_123.mp4', 'ESLO1_ENT_137.mp4', 'ESLO1_ENT_109.mp4', 'ESLO1_ENT_121.mp4', 'ESLO1_ENT_135.mp4', 'ESLO2_ITI_1086.mp4', 'ESLO2_ITI_1092.mp4', 'ESLO2_DIA_1225.mp4', 'ESLO1_ENTCONT_229.mp4', 'ESLO1_ENTCONT_201.mp4', 'ESLO1_ENTCONT_215.mp4', 'ESLO2_ENTJEUN_1230.mp4', 'ESLO1_CONSCMPP_742.mp4', 'ESLO1_TEL_352.mp4', 'ESLO2_ITI_1131.mp4', 'ESLO1_ENT_069.mp4', 'ESLO2_LIVRENF_1309.mp4', 'ESLO1_TEL_346.mp4', 'ESLO2_ITI_1125.mp4', 'ESLO1_ENT_055.mp4', 'ESLO2_LIVRENF_1321.mp4', 'ESLO2_ITI_1119.mp4', 'ESLO1_ENT_041.mp4', 'ESLO1_INTPERS_424.mp4', 'ESLO2_ENT_1014.mp4', 'ESLO1_INTPERS_430.mp4', 'ESLO2_ENT_1028.mp4', 'ESLO1_INTPERS_418.mp4', 'ESLO1_ENT_096.mp4', 'ESLO1_ENT_082.mp4', 'ESLO1_ENT_083.mp4', 'ESLO1_ENT_097.mp4', 'ESLO1_INTPERS_419.mp4', 'ESLO2_ENT_1029.mp4', 'ESLO1_INTPERS_431.mp4', 'ESLO2_ENT_1001.mp4', 'ESLO2_BOUL_1250.mp4', 'ESLO2_ENT_1015.mp4', 'ESLO1_INTPERS_425.mp4', 'ESLO2_ITI_1118.mp4', 'ESLO1_ENT_054.mp4', 'ESLO2_LIVRENF_1320.mp4', 'ESLO2_LIVRENF_1308.mp4', 'ESLO2_ITI_1124.mp4', 'ESLO1_TEL_347.mp4', 'ESLO1_ENT_068.mp4', 'ESLO2_ITI_1130.mp4', 'ESLO1_TEL_353.mp4', 'ESLO1_CONSCMPP_743.mp4', 'ESLO2_DISC_1237.mp4', 'ESLO2_ENTJEUN_1231.mp4', 'ESLO1_MAR_612.mp4', 'ESLO1_ENTCONT_214.mp4', 'ESLO1_ENTCONT_228.mp4', 'ESLO2_DIA_1224.mp4', 'ESLO2_ITI_1093.mp4', 'ESLO2_ITI_1087.mp4', 'ESLO1_ENT_120.mp4', 'ESLO1_ENT_108.mp4', 'ESLO1_ENT_124.mp4', 'ESLO1_ENT_130.mp4', 'ESLO1_ENT_118.mp4', 'ESLO2_ITI_1097.mp4', 'ESLO1_ENTCONT_204.mp4', 'ESLO1_ENTCONT_238.mp4', 'ESLO2_ENTJEUN_1235.mp4', 'ESLO2_RUMEUR_1336.mp4', 'ESLO2_LIVRENF_1324.mp4', 'ESLO1_ENT_050.mp4', 'ESLO2_ITI_1108.mp4', 'ESLO1_ENT_044.mp4', 'ESLO2_LIVRENF_1318.mp4', 'ESLO2_ITI_1134.mp4', 'ESLO1_ENT_078.mp4', 'ESLO1_TEL_343.mp4', 'ESLO2_ITI_1120.mp4', 'ESLO1_ENT_093.mp4', 'ESLO1_INTPERS_409.mp4', 'ESLO1_ENT_087.mp4', 'ESLO2_ENT_1039.mp4', 'ESLO1_INTPERS_421.mp4', 'ESLO2_ENT_1011.mp4', 'ESLO2_ENT_1005.mp4', 'ESLO1_INTPERS_435.mp4', 'ESLO2_ENT_1004.mp4', 'ESLO2_ENT_1010.mp4', 'ESLO1_INTPERS_420.mp4', 'ESLO2_ENT_1038.mp4', 'ESLO1_ENT_086.mp4', 'ESLO1_INTPERS_408.mp4', 'ESLO1_ENT_092.mp4', 'ESLO2_ITI_1121.mp4', 'ESLO1_ENT_079.mp4', 'ESLO2_LIVRENF_1319.mp4', 'ESLO2_ITI_1135.mp4', 'ESLO1_ENT_045.mp4', 'ESLO2_LIVRENF_1331.mp4', 'ESLO2_LIVRENF_1325.mp4', 'ESLO2_ITI_1109.mp4', 'ESLO1_ENT_051.mp4', 'ESLO1_CONSCMPP_752.mp4', 'ESLO2_RUMEUR_1337.mp4', 'ESLO2_ENTJEUN_1234.mp4', 'ESLO1_MAR_617.mp4', 'ESLO1_ENTCONT_239.mp4', 'ESLO1_ENTCONT_211.mp4', 'ESLO1_ENTCONT_205.mp4', 'ESLO2_ITI_1096.mp4', 'ESLO2_DIA_1221.mp4', 'ESLO1_ENT_119.mp4', 'ESLO1_ENT_131.mp4', 'ESLO2_LIVRENF_1251.mp4', 'ESLO1_ENT_125.mp4', 'ESLO1_ENT_133.mp4', 'ESLO1_ENT_127.mp4', 'ESLO2_DIA_1223.mp4', 'ESLO2_ITI_1094.mp4', 'ESLO1_ENTCONT_213.mp4', 'ESLO1_ENTCONT_207.mp4', 'ESLO2_ENTJEUN_1236.mp4', 'ESLO2_RUMEUR_1335.mp4', 'ESLO1_ENT_047.mp4', 'ESLO1_MAG_629.mp4', 'ESLO1_ENT_053.mp4', 'ESLO2_LIVRENF_1327.mp4', 'ESLO2_ITI_1123.mp4', 'ESLO1_TEL_354.mp4', 'ESLO2_ITI_1137.mp4', 'ESLO1_ENT_084.mp4', 'ESLO1_ENT_090.mp4', 'ESLO2_ENT_1006.mp4', 'ESLO1_INTPERS_436.mp4', 'ESLO1_INTPERS_422.mp4', 'ESLO2_ENT_1012.mp4', 'ESLO2_ENT_1013.mp4', 'ESLO1_INTPERS_423.mp4', 'ESLO1_INTPERS_437.mp4', 'ESLO2_ENT_1007.mp4', 'ESLO1_ENT_091.mp4', 'ESLO1_ENT_085.mp4', 'ESLO2_ITI_1136.mp4', 'ESLO1_TEL_355.mp4', 'ESLO2_ITI_1122.mp4', 'ESLO1_TEL_341.mp4', 'ESLO1_ENT_052.mp4', 'ESLO2_LIVRENF_1326.mp4', 'ESLO1_ENT_046.mp4', 'ESLO1_CONSCMPP_751.mp4', 'ESLO2_RUMEUR_1334.mp4', 'ESLO1_ENTCONT_206.mp4', 'ESLO1_ENTCONT_212.mp4', 'ESLO2_ITI_1095.mp4', 'ESLO2_DIA_1222.mp4', 'ESLO1_ENT_126.mp4', 'ESLO1_ENT_132.mp4']

class ESLOConfig(datasets.BuilderConfig):
    """BuilderConfig for ESLO."""

    def __init__(self, name, **kwargs):
        """
        Args:
          name: `string`, name of dataset config (=language)
          **kwargs: keyword arguments forwarded to super.
        """
        super(ESLOConfig, self).__init__(
            version=datasets.Version("2.11.0", ""), name=name, **kwargs
        )
        if "no_hesitation" in name:
            self.hesitation = False
        else:
            self.hesitation = True


class ESLO(datasets.GeneratorBasedBuilder):
    """ESLO dataset."""

    BUILDER_CONFIGS = [
        ESLOConfig(name="no_hesitation", description="ESLO dataset, removed all samples with overlap"),
        ESLOConfig(name="raw", description="ESLO dataset"),
    ]

    DEFAULT_CONFIG_NAME = "no_hesitation"

    def _info(self):
        return datasets.DatasetInfo(
            description=_DESCRIPTION,
            features=datasets.Features(
                {
                    "file": datasets.Value("string"),
                    "audio": datasets.features.Audio(sampling_rate=SAMPLING_RATE),
                    "sentence": datasets.Value("string"),
                    "start_timestamp": datasets.Value("float"),
                    "end_timestamp": datasets.Value("float"),
                    "loss": datasets.Value("float"),
                    "contains_speech": datasets.Value("bool"),

                }
            ),
            citation=_CITATION,
        )

    def _split_generators(self, dl_manager):
        train_ds = dl_manager.download("train_cleaning.csv")
        test_ds = dl_manager.download("test_cleaning.csv")
        audio_files = dl_manager.download(
            {file: f"audio/{file}" for file in AUDIO_FILES})

        splits = [
            datasets.SplitGenerator(
                name=datasets.Split.TRAIN,
                gen_kwargs={
                    "dataset": train_ds,
                    "audio_files": audio_files
                }
            ),
            datasets.SplitGenerator(
                name=datasets.Split.TEST,
                gen_kwargs={
                    "dataset": test_ds,
                    "audio_files": audio_files
                }
            ),

        ]

        return splits

    def clean_text(self, text: str) -> str:
        def replace_uppercase(match):
            """replaces BRUNO spelling  by B R U N O"""
            return ' '.join(match.group(1))

        text = re.sub(r"\bNPERS\b", "", text)
        text = re.sub(r'\bOK\b', 'ok', text)
        text = re.sub(r'\b([A-Z]+)\b', replace_uppercase, text)
        if not self.config.hesitation:
            text = re.sub(r"(euh)|(hm)|(\b\w*\-\s)", "", text)
        return re.sub(r" +", " ", text).strip()

    @staticmethod
    @lru_cache(maxsize=1)
    def load_audio(file: str, sr: int = SAMPLING_RATE):
        """
        Open an audio file and read as mono waveform, resampling as necessary
        Parameters
        ----------
        file:vThe audio file to read
        sr: int
            The sample rate to resample the audio if necessary
        Returns
        -------
        A NumPy array containing the audio waveform, in float32 dtype.
        """
        try:
            # This launches a subprocess to decode audio while down-mixing and resampling as necessary.
            # Requires the ffmpeg CLI and `ffmpeg-python` package to be installed.
            out, _ = (
                ffmpeg.input(file)
                .output('-', format='s16le', acodec='pcm_s16le', ac=1, ar=sr)
                .run(capture_stdout=True, capture_stderr=True)
            )
        except ffmpeg.Error as e:
            raise RuntimeError(f"Failed to load audio: {e.stderr.decode()}") from e
        return np.frombuffer(out, np.int16).flatten().astype(np.float32) / 32768.0

    @staticmethod
    def _cut_audio(audio: Array, start_timestamp: float, end_timestamp: float):
        return audio[int(round(start_timestamp * SAMPLING_RATE)): int(round(end_timestamp * SAMPLING_RATE)) + 1]

    def _generate_examples(self, dataset, audio_files):
        """Generate examples from a Multilingual LibriSpeech data dir."""
        with open(dataset, encoding="utf-8") as f:
            reader = csv.DictReader(f)
            for row in reader:
                audio_file = f"{row['audio_file'][:-2]}.mp4"
                audio = self.load_audio(audio_files[audio_file])
                start = float(row["start"])
                loss = float(row["loss"])
                end = float(row["end"])
                contains_speech = row["contains_speech"] == "True"
                yield f"{audio_file}_{start}-{end}", {
                    "file": audio_file,
                    "sentence": self.clean_text(row["sentence"]),
                    "start_timestamp": start,
                    "end_timestamp": end,
                    "loss": loss,
                    "contains_speech": contains_speech,
                    "audio": {"path": audio_file,
                              "array": self._cut_audio(audio, start, end),
                              "sampling_rate": 16000}}