Convert dataset to Parquet

#6
by albertvillanova HF staff - opened
QR-AN.py DELETED
@@ -1,162 +0,0 @@
1
- import json
2
- import os
3
-
4
- import datasets
5
- from datasets.tasks import TextClassification
6
-
7
-
8
- _CITATION = None
9
-
10
-
11
- _DESCRIPTION = """\
12
- QR-AN Dataset: a classification dataset on french Parliament debates
13
- This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions.
14
- It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k).
15
- """
16
-
17
-
18
- _LABELS = [
19
- 'administration', 'agriculture', 'agroalimentaire', 'aménagement du territoire', 'anciens combattants et victimes de guerre',
20
- 'animaux', 'aquaculture et pêche professionnelle', 'architecture', 'archives et bibliothèques', 'armes', 'arts et spectacles',
21
- 'associations', 'assurance invalidité décès', 'assurance maladie maternité : généralités', 'assurance maladie maternité : prestations',
22
- 'assurances', 'audiovisuel et communication', 'automobiles et cycles', 'avortement', 'banques et établissements financiers',
23
- 'bâtiment et travaux publics', 'baux', 'bioéthique', 'bois et forêts', "bourses d'études", 'cérémonies publiques et fêtes légales',
24
- 'chambres consulaires', 'chasse et pêche', 'chômage : indemnisation', 'collectivités territoriales', 'commerce et artisanat',
25
- 'commerce extérieur', 'communes', 'consommation', 'contributions indirectes', 'coopération intercommunale', 'copropriété',
26
- 'corps diplomatique et consulaire', "cours d'eau, étangs et lacs", 'cultes', 'culture', 'déchéances et incapacités',
27
- 'déchets, pollution et nuisances', 'décorations, insignes et emblèmes', 'défense', 'démographie', 'départements',
28
- 'donations et successions', 'drogue', 'droit pénal', "droits de l'Homme et libertés publiques", 'eau', 'économie sociale',
29
- 'éducation physique et sportive', 'élections et référendums', 'élevage', 'emploi', 'énergie et carburants', 'enfants',
30
- 'enregistrement et timbre', 'enseignement', 'enseignement : personnel', 'enseignement agricole',
31
- 'enseignement maternel et primaire', 'enseignement maternel et primaire : personnel', 'enseignement privé',
32
- 'enseignement secondaire', 'enseignement secondaire : personnel', 'enseignement supérieur',
33
- 'enseignement supérieur : personnel', 'enseignement technique et professionnel',
34
- 'enseignement technique et professionnel : personnel', 'enseignements artistiques',
35
- 'entreprises', 'environnement', 'ésotérisme', 'espace', 'établissements de santé', 'État',
36
- 'état civil', 'étrangers', 'famille', 'femmes', 'finances publiques', "fonction publique de l'État",
37
- 'fonction publique hospitalière', 'fonction publique territoriale', 'fonctionnaires et agents publics',
38
- 'formation professionnelle', "Français de l'étranger", 'frontaliers', 'gendarmerie', 'gens du voyage',
39
- 'grandes écoles', 'handicapés', 'heure légale', 'hôtellerie et restauration', 'impôt de solidarité sur la fortune',
40
- 'impôt sur le revenu', 'impôt sur les sociétés', 'impôts et taxes', 'impôts locaux', 'industrie', 'informatique',
41
- 'institutions sociales et médico-sociales', 'jeunes', 'jeux et paris', 'justice', 'langue française', 'logement',
42
- 'logement : aides et prêts', 'marchés financiers', 'marchés publics', 'matières premières', 'médecines parallèles',
43
- 'mer et littoral', 'mines et carrières', "ministères et secrétariats d'État", 'mort', 'moyens de paiement', 'nationalité',
44
- 'ordre public', 'organisations internationales', 'outre-mer', "papiers d'identité", 'Parlement',
45
- 'partis et mouvements politiques', 'patrimoine culturel', "pensions militaires d'invalidité", 'personnes âgées',
46
- 'pharmacie et médicaments', 'plus-values : imposition', 'police', 'politique économique', 'politique extérieure',
47
- 'politique sociale', 'politiques communautaires', 'postes', 'préretraites', 'presse et livres', 'prestations familiales',
48
- 'produits dangereux', 'professions de santé', 'professions immobilières', 'professions judiciaires et juridiques',
49
- 'professions libérales', 'professions sociales', 'propriété', 'propriété intellectuelle', 'publicité', 'rapatriés',
50
- 'recherche', 'régions', 'relations internationales', 'retraites : fonctionnaires civils et militaires',
51
- 'retraites : généralités', 'retraites : régime agricole', 'retraites : régime général', 'retraites : régimes autonomes et spéciaux',
52
- 'risques professionnels', 'saisies et sûretés', 'sang et organes humains', 'santé', 'secteur public', 'sécurité publique',
53
- 'sécurité routière', 'sécurité sociale', 'services', 'sociétés', 'sports', 'syndicats', 'système pénitentiaire', 'taxis',
54
- 'télécommunications', 'tourisme et loisirs', 'traités et conventions', 'transports', 'transports aériens',
55
- 'transports ferroviaires', 'transports par eau', 'transports routiers', 'transports urbains', 'travail', 'TVA',
56
- 'Union européenne', 'urbanisme', 'ventes et échanges', 'voirie'
57
- ]
58
-
59
-
60
- class QRANConfig(datasets.BuilderConfig):
61
- """BuilderConfig for QR-AN."""
62
-
63
- def __init__(self, **kwargs):
64
- """BuilderConfig for QR-AN.
65
- Args:
66
- **kwargs: keyword arguments forwarded to super.
67
- """
68
- super(QRANConfig, self).__init__(**kwargs)
69
-
70
-
71
- class QRANDataset(datasets.GeneratorBasedBuilder):
72
- """QR-AN Dataset: Topic dataset on french Parliament questions-answers."""
73
-
74
- _DOWNLOAD_URL = "https://huggingface.co/datasets/cassandra-themis/QR-AN/resolve/main/"
75
-
76
- _TRAIN_FILE = "train_data.txt"
77
- _VAL_FILE = "val_data.txt"
78
- _TEST_FILE = "test_data.txt"
79
- _LABELS_DICT = {label: i for i, label in enumerate(_LABELS)}
80
-
81
- BUILDER_CONFIGS = [
82
- QRANConfig(
83
- name="qran_answer",
84
- version=datasets.Version("1.0.0"),
85
- description="QRAN Dataset: A classification task of French Parliament questions-answers",
86
- ),
87
- QRANConfig(
88
- name="qran_question",
89
- version=datasets.Version("1.0.0"),
90
- description="QRAN Dataset: A classification task of French Parliament questions-answers",
91
- ),
92
- QRANConfig(
93
- name="qran_full",
94
- version=datasets.Version("1.0.0"),
95
- description="QRAN Dataset: A classification task of French Parliament questions-answers",
96
- ),
97
- QRANConfig(
98
- name="qran_generation",
99
- version=datasets.Version("1.0.0"),
100
- description="QRAN Dataset: A generation task of French Parliament questions-answers",
101
- )
102
- ]
103
-
104
- DEFAULT_CONFIG_NAME = "qran_answer"
105
-
106
- def _info(self):
107
- if self.config.name == "qran_generation":
108
- features = {
109
- "question": datasets.Value("string"),
110
- "answer": datasets.Value("string"),
111
- }
112
- else:
113
- features = {
114
- "text": datasets.Value("string"),
115
- "label": datasets.features.ClassLabel(names=_LABELS),
116
- }
117
-
118
- return datasets.DatasetInfo(
119
- description=_DESCRIPTION,
120
- features=datasets.Features(features),
121
- supervised_keys=None,
122
- citation=_CITATION,
123
- )
124
-
125
-
126
- def _split_generators(self, dl_manager):
127
- train_path = dl_manager.download_and_extract(self._TRAIN_FILE)
128
- val_path = dl_manager.download_and_extract(self._VAL_FILE)
129
- test_path = dl_manager.download_and_extract(self._TEST_FILE)
130
-
131
- return [
132
- datasets.SplitGenerator(
133
- name=datasets.Split.TRAIN, gen_kwargs={"filepath": train_path}
134
- ),
135
- datasets.SplitGenerator(
136
- name=datasets.Split.VALIDATION, gen_kwargs={"filepath": val_path}
137
- ),
138
- datasets.SplitGenerator(
139
- name=datasets.Split.TEST, gen_kwargs={"filepath": test_path}
140
- ),
141
- ]
142
-
143
- def _generate_examples(self, filepath):
144
- """Generate QRAN examples."""
145
- with open(filepath, encoding="utf-8") as f:
146
- for id_, row in enumerate(f):
147
- data = json.loads(row)
148
- answer, question = data["answer"], data["question"]
149
-
150
- label = self._LABELS_DICT[data["label_name"]]
151
-
152
- if self.config.name == "qran_generation":
153
- yield id_, {"question": question, "answer": answer}
154
- else:
155
- if self.config.name == "qran_answer":
156
- text = answer
157
- elif self.config.name == "qran_question":
158
- text = question
159
- else:
160
- text = question + " " + answer
161
- yield id_, {"text": text, "label": label}
162
-
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
README.md CHANGED
@@ -11,6 +11,683 @@ task_ids:
11
  - topic-classification
12
  tags:
13
  - conditional-text-generation
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
14
  ---
15
 
16
  **QR-AN Dataset: a classification and generation dataset of french Parliament questions-answers.**
 
11
  - topic-classification
12
  tags:
13
  - conditional-text-generation
14
+ dataset_info:
15
+ - config_name: qran_answer
16
+ features:
17
+ - name: text
18
+ dtype: string
19
+ - name: label
20
+ dtype:
21
+ class_label:
22
+ names:
23
+ '0': administration
24
+ '1': agriculture
25
+ '2': agroalimentaire
26
+ '3': aménagement du territoire
27
+ '4': anciens combattants et victimes de guerre
28
+ '5': animaux
29
+ '6': aquaculture et pêche professionnelle
30
+ '7': architecture
31
+ '8': archives et bibliothèques
32
+ '9': armes
33
+ '10': arts et spectacles
34
+ '11': associations
35
+ '12': assurance invalidité décès
36
+ '13': 'assurance maladie maternité : généralités'
37
+ '14': 'assurance maladie maternité : prestations'
38
+ '15': assurances
39
+ '16': audiovisuel et communication
40
+ '17': automobiles et cycles
41
+ '18': avortement
42
+ '19': banques et établissements financiers
43
+ '20': bâtiment et travaux publics
44
+ '21': baux
45
+ '22': bioéthique
46
+ '23': bois et forêts
47
+ '24': bourses d'études
48
+ '25': cérémonies publiques et fêtes légales
49
+ '26': chambres consulaires
50
+ '27': chasse et pêche
51
+ '28': 'chômage : indemnisation'
52
+ '29': collectivités territoriales
53
+ '30': commerce et artisanat
54
+ '31': commerce extérieur
55
+ '32': communes
56
+ '33': consommation
57
+ '34': contributions indirectes
58
+ '35': coopération intercommunale
59
+ '36': copropriété
60
+ '37': corps diplomatique et consulaire
61
+ '38': cours d'eau, étangs et lacs
62
+ '39': cultes
63
+ '40': culture
64
+ '41': déchéances et incapacités
65
+ '42': déchets, pollution et nuisances
66
+ '43': décorations, insignes et emblèmes
67
+ '44': défense
68
+ '45': démographie
69
+ '46': départements
70
+ '47': donations et successions
71
+ '48': drogue
72
+ '49': droit pénal
73
+ '50': droits de l'Homme et libertés publiques
74
+ '51': eau
75
+ '52': économie sociale
76
+ '53': éducation physique et sportive
77
+ '54': élections et référendums
78
+ '55': élevage
79
+ '56': emploi
80
+ '57': énergie et carburants
81
+ '58': enfants
82
+ '59': enregistrement et timbre
83
+ '60': enseignement
84
+ '61': 'enseignement : personnel'
85
+ '62': enseignement agricole
86
+ '63': enseignement maternel et primaire
87
+ '64': 'enseignement maternel et primaire : personnel'
88
+ '65': enseignement privé
89
+ '66': enseignement secondaire
90
+ '67': 'enseignement secondaire : personnel'
91
+ '68': enseignement supérieur
92
+ '69': 'enseignement supérieur : personnel'
93
+ '70': enseignement technique et professionnel
94
+ '71': 'enseignement technique et professionnel : personnel'
95
+ '72': enseignements artistiques
96
+ '73': entreprises
97
+ '74': environnement
98
+ '75': ésotérisme
99
+ '76': espace
100
+ '77': établissements de santé
101
+ '78': État
102
+ '79': état civil
103
+ '80': étrangers
104
+ '81': famille
105
+ '82': femmes
106
+ '83': finances publiques
107
+ '84': fonction publique de l'État
108
+ '85': fonction publique hospitalière
109
+ '86': fonction publique territoriale
110
+ '87': fonctionnaires et agents publics
111
+ '88': formation professionnelle
112
+ '89': Français de l'étranger
113
+ '90': frontaliers
114
+ '91': gendarmerie
115
+ '92': gens du voyage
116
+ '93': grandes écoles
117
+ '94': handicapés
118
+ '95': heure légale
119
+ '96': hôtellerie et restauration
120
+ '97': impôt de solidarité sur la fortune
121
+ '98': impôt sur le revenu
122
+ '99': impôt sur les sociétés
123
+ '100': impôts et taxes
124
+ '101': impôts locaux
125
+ '102': industrie
126
+ '103': informatique
127
+ '104': institutions sociales et médico-sociales
128
+ '105': jeunes
129
+ '106': jeux et paris
130
+ '107': justice
131
+ '108': langue française
132
+ '109': logement
133
+ '110': 'logement : aides et prêts'
134
+ '111': marchés financiers
135
+ '112': marchés publics
136
+ '113': matières premières
137
+ '114': médecines parallèles
138
+ '115': mer et littoral
139
+ '116': mines et carrières
140
+ '117': ministères et secrétariats d'État
141
+ '118': mort
142
+ '119': moyens de paiement
143
+ '120': nationalité
144
+ '121': ordre public
145
+ '122': organisations internationales
146
+ '123': outre-mer
147
+ '124': papiers d'identité
148
+ '125': Parlement
149
+ '126': partis et mouvements politiques
150
+ '127': patrimoine culturel
151
+ '128': pensions militaires d'invalidité
152
+ '129': personnes âgées
153
+ '130': pharmacie et médicaments
154
+ '131': 'plus-values : imposition'
155
+ '132': police
156
+ '133': politique économique
157
+ '134': politique extérieure
158
+ '135': politique sociale
159
+ '136': politiques communautaires
160
+ '137': postes
161
+ '138': préretraites
162
+ '139': presse et livres
163
+ '140': prestations familiales
164
+ '141': produits dangereux
165
+ '142': professions de santé
166
+ '143': professions immobilières
167
+ '144': professions judiciaires et juridiques
168
+ '145': professions libérales
169
+ '146': professions sociales
170
+ '147': propriété
171
+ '148': propriété intellectuelle
172
+ '149': publicité
173
+ '150': rapatriés
174
+ '151': recherche
175
+ '152': régions
176
+ '153': relations internationales
177
+ '154': 'retraites : fonctionnaires civils et militaires'
178
+ '155': 'retraites : généralités'
179
+ '156': 'retraites : régime agricole'
180
+ '157': 'retraites : régime général'
181
+ '158': 'retraites : régimes autonomes et spéciaux'
182
+ '159': risques professionnels
183
+ '160': saisies et sûretés
184
+ '161': sang et organes humains
185
+ '162': santé
186
+ '163': secteur public
187
+ '164': sécurité publique
188
+ '165': sécurité routière
189
+ '166': sécurité sociale
190
+ '167': services
191
+ '168': sociétés
192
+ '169': sports
193
+ '170': syndicats
194
+ '171': système pénitentiaire
195
+ '172': taxis
196
+ '173': télécommunications
197
+ '174': tourisme et loisirs
198
+ '175': traités et conventions
199
+ '176': transports
200
+ '177': transports aériens
201
+ '178': transports ferroviaires
202
+ '179': transports par eau
203
+ '180': transports routiers
204
+ '181': transports urbains
205
+ '182': travail
206
+ '183': TVA
207
+ '184': Union européenne
208
+ '185': urbanisme
209
+ '186': ventes et échanges
210
+ '187': voirie
211
+ splits:
212
+ - name: train
213
+ num_bytes: 183336142
214
+ num_examples: 63683
215
+ - name: validation
216
+ num_bytes: 28746666
217
+ num_examples: 10000
218
+ - name: test
219
+ num_bytes: 28694899
220
+ num_examples: 10000
221
+ download_size: 119222760
222
+ dataset_size: 240777707
223
+ - config_name: qran_full
224
+ features:
225
+ - name: text
226
+ dtype: string
227
+ - name: label
228
+ dtype:
229
+ class_label:
230
+ names:
231
+ '0': administration
232
+ '1': agriculture
233
+ '2': agroalimentaire
234
+ '3': aménagement du territoire
235
+ '4': anciens combattants et victimes de guerre
236
+ '5': animaux
237
+ '6': aquaculture et pêche professionnelle
238
+ '7': architecture
239
+ '8': archives et bibliothèques
240
+ '9': armes
241
+ '10': arts et spectacles
242
+ '11': associations
243
+ '12': assurance invalidité décès
244
+ '13': 'assurance maladie maternité : généralités'
245
+ '14': 'assurance maladie maternité : prestations'
246
+ '15': assurances
247
+ '16': audiovisuel et communication
248
+ '17': automobiles et cycles
249
+ '18': avortement
250
+ '19': banques et établissements financiers
251
+ '20': bâtiment et travaux publics
252
+ '21': baux
253
+ '22': bioéthique
254
+ '23': bois et forêts
255
+ '24': bourses d'études
256
+ '25': cérémonies publiques et fêtes légales
257
+ '26': chambres consulaires
258
+ '27': chasse et pêche
259
+ '28': 'chômage : indemnisation'
260
+ '29': collectivités territoriales
261
+ '30': commerce et artisanat
262
+ '31': commerce extérieur
263
+ '32': communes
264
+ '33': consommation
265
+ '34': contributions indirectes
266
+ '35': coopération intercommunale
267
+ '36': copropriété
268
+ '37': corps diplomatique et consulaire
269
+ '38': cours d'eau, étangs et lacs
270
+ '39': cultes
271
+ '40': culture
272
+ '41': déchéances et incapacités
273
+ '42': déchets, pollution et nuisances
274
+ '43': décorations, insignes et emblèmes
275
+ '44': défense
276
+ '45': démographie
277
+ '46': départements
278
+ '47': donations et successions
279
+ '48': drogue
280
+ '49': droit pénal
281
+ '50': droits de l'Homme et libertés publiques
282
+ '51': eau
283
+ '52': économie sociale
284
+ '53': éducation physique et sportive
285
+ '54': élections et référendums
286
+ '55': élevage
287
+ '56': emploi
288
+ '57': énergie et carburants
289
+ '58': enfants
290
+ '59': enregistrement et timbre
291
+ '60': enseignement
292
+ '61': 'enseignement : personnel'
293
+ '62': enseignement agricole
294
+ '63': enseignement maternel et primaire
295
+ '64': 'enseignement maternel et primaire : personnel'
296
+ '65': enseignement privé
297
+ '66': enseignement secondaire
298
+ '67': 'enseignement secondaire : personnel'
299
+ '68': enseignement supérieur
300
+ '69': 'enseignement supérieur : personnel'
301
+ '70': enseignement technique et professionnel
302
+ '71': 'enseignement technique et professionnel : personnel'
303
+ '72': enseignements artistiques
304
+ '73': entreprises
305
+ '74': environnement
306
+ '75': ésotérisme
307
+ '76': espace
308
+ '77': établissements de santé
309
+ '78': État
310
+ '79': état civil
311
+ '80': étrangers
312
+ '81': famille
313
+ '82': femmes
314
+ '83': finances publiques
315
+ '84': fonction publique de l'État
316
+ '85': fonction publique hospitalière
317
+ '86': fonction publique territoriale
318
+ '87': fonctionnaires et agents publics
319
+ '88': formation professionnelle
320
+ '89': Français de l'étranger
321
+ '90': frontaliers
322
+ '91': gendarmerie
323
+ '92': gens du voyage
324
+ '93': grandes écoles
325
+ '94': handicapés
326
+ '95': heure légale
327
+ '96': hôtellerie et restauration
328
+ '97': impôt de solidarité sur la fortune
329
+ '98': impôt sur le revenu
330
+ '99': impôt sur les sociétés
331
+ '100': impôts et taxes
332
+ '101': impôts locaux
333
+ '102': industrie
334
+ '103': informatique
335
+ '104': institutions sociales et médico-sociales
336
+ '105': jeunes
337
+ '106': jeux et paris
338
+ '107': justice
339
+ '108': langue française
340
+ '109': logement
341
+ '110': 'logement : aides et prêts'
342
+ '111': marchés financiers
343
+ '112': marchés publics
344
+ '113': matières premières
345
+ '114': médecines parallèles
346
+ '115': mer et littoral
347
+ '116': mines et carrières
348
+ '117': ministères et secrétariats d'État
349
+ '118': mort
350
+ '119': moyens de paiement
351
+ '120': nationalité
352
+ '121': ordre public
353
+ '122': organisations internationales
354
+ '123': outre-mer
355
+ '124': papiers d'identité
356
+ '125': Parlement
357
+ '126': partis et mouvements politiques
358
+ '127': patrimoine culturel
359
+ '128': pensions militaires d'invalidité
360
+ '129': personnes âgées
361
+ '130': pharmacie et médicaments
362
+ '131': 'plus-values : imposition'
363
+ '132': police
364
+ '133': politique économique
365
+ '134': politique extérieure
366
+ '135': politique sociale
367
+ '136': politiques communautaires
368
+ '137': postes
369
+ '138': préretraites
370
+ '139': presse et livres
371
+ '140': prestations familiales
372
+ '141': produits dangereux
373
+ '142': professions de santé
374
+ '143': professions immobilières
375
+ '144': professions judiciaires et juridiques
376
+ '145': professions libérales
377
+ '146': professions sociales
378
+ '147': propriété
379
+ '148': propriété intellectuelle
380
+ '149': publicité
381
+ '150': rapatriés
382
+ '151': recherche
383
+ '152': régions
384
+ '153': relations internationales
385
+ '154': 'retraites : fonctionnaires civils et militaires'
386
+ '155': 'retraites : généralités'
387
+ '156': 'retraites : régime agricole'
388
+ '157': 'retraites : régime général'
389
+ '158': 'retraites : régimes autonomes et spéciaux'
390
+ '159': risques professionnels
391
+ '160': saisies et sûretés
392
+ '161': sang et organes humains
393
+ '162': santé
394
+ '163': secteur public
395
+ '164': sécurité publique
396
+ '165': sécurité routière
397
+ '166': sécurité sociale
398
+ '167': services
399
+ '168': sociétés
400
+ '169': sports
401
+ '170': syndicats
402
+ '171': système pénitentiaire
403
+ '172': taxis
404
+ '173': télécommunications
405
+ '174': tourisme et loisirs
406
+ '175': traités et conventions
407
+ '176': transports
408
+ '177': transports aériens
409
+ '178': transports ferroviaires
410
+ '179': transports par eau
411
+ '180': transports routiers
412
+ '181': transports urbains
413
+ '182': travail
414
+ '183': TVA
415
+ '184': Union européenne
416
+ '185': urbanisme
417
+ '186': ventes et échanges
418
+ '187': voirie
419
+ splits:
420
+ - name: train
421
+ num_bytes: 257293229
422
+ num_examples: 63683
423
+ - name: validation
424
+ num_bytes: 40382643
425
+ num_examples: 10000
426
+ - name: test
427
+ num_bytes: 40268140
428
+ num_examples: 10000
429
+ download_size: 177919076
430
+ dataset_size: 337944012
431
+ - config_name: qran_generation
432
+ features:
433
+ - name: question
434
+ dtype: string
435
+ - name: answer
436
+ dtype: string
437
+ splits:
438
+ - name: train
439
+ num_bytes: 256974814
440
+ num_examples: 63683
441
+ - name: validation
442
+ num_bytes: 40332643
443
+ num_examples: 10000
444
+ - name: test
445
+ num_bytes: 40218140
446
+ num_examples: 10000
447
+ download_size: 171963615
448
+ dataset_size: 337525597
449
+ - config_name: qran_question
450
+ features:
451
+ - name: text
452
+ dtype: string
453
+ - name: label
454
+ dtype:
455
+ class_label:
456
+ names:
457
+ '0': administration
458
+ '1': agriculture
459
+ '2': agroalimentaire
460
+ '3': aménagement du territoire
461
+ '4': anciens combattants et victimes de guerre
462
+ '5': animaux
463
+ '6': aquaculture et pêche professionnelle
464
+ '7': architecture
465
+ '8': archives et bibliothèques
466
+ '9': armes
467
+ '10': arts et spectacles
468
+ '11': associations
469
+ '12': assurance invalidité décès
470
+ '13': 'assurance maladie maternité : généralités'
471
+ '14': 'assurance maladie maternité : prestations'
472
+ '15': assurances
473
+ '16': audiovisuel et communication
474
+ '17': automobiles et cycles
475
+ '18': avortement
476
+ '19': banques et établissements financiers
477
+ '20': bâtiment et travaux publics
478
+ '21': baux
479
+ '22': bioéthique
480
+ '23': bois et forêts
481
+ '24': bourses d'études
482
+ '25': cérémonies publiques et fêtes légales
483
+ '26': chambres consulaires
484
+ '27': chasse et pêche
485
+ '28': 'chômage : indemnisation'
486
+ '29': collectivités territoriales
487
+ '30': commerce et artisanat
488
+ '31': commerce extérieur
489
+ '32': communes
490
+ '33': consommation
491
+ '34': contributions indirectes
492
+ '35': coopération intercommunale
493
+ '36': copropriété
494
+ '37': corps diplomatique et consulaire
495
+ '38': cours d'eau, étangs et lacs
496
+ '39': cultes
497
+ '40': culture
498
+ '41': déchéances et incapacités
499
+ '42': déchets, pollution et nuisances
500
+ '43': décorations, insignes et emblèmes
501
+ '44': défense
502
+ '45': démographie
503
+ '46': départements
504
+ '47': donations et successions
505
+ '48': drogue
506
+ '49': droit pénal
507
+ '50': droits de l'Homme et libertés publiques
508
+ '51': eau
509
+ '52': économie sociale
510
+ '53': éducation physique et sportive
511
+ '54': élections et référendums
512
+ '55': élevage
513
+ '56': emploi
514
+ '57': énergie et carburants
515
+ '58': enfants
516
+ '59': enregistrement et timbre
517
+ '60': enseignement
518
+ '61': 'enseignement : personnel'
519
+ '62': enseignement agricole
520
+ '63': enseignement maternel et primaire
521
+ '64': 'enseignement maternel et primaire : personnel'
522
+ '65': enseignement privé
523
+ '66': enseignement secondaire
524
+ '67': 'enseignement secondaire : personnel'
525
+ '68': enseignement supérieur
526
+ '69': 'enseignement supérieur : personnel'
527
+ '70': enseignement technique et professionnel
528
+ '71': 'enseignement technique et professionnel : personnel'
529
+ '72': enseignements artistiques
530
+ '73': entreprises
531
+ '74': environnement
532
+ '75': ésotérisme
533
+ '76': espace
534
+ '77': établissements de santé
535
+ '78': État
536
+ '79': état civil
537
+ '80': étrangers
538
+ '81': famille
539
+ '82': femmes
540
+ '83': finances publiques
541
+ '84': fonction publique de l'État
542
+ '85': fonction publique hospitalière
543
+ '86': fonction publique territoriale
544
+ '87': fonctionnaires et agents publics
545
+ '88': formation professionnelle
546
+ '89': Français de l'étranger
547
+ '90': frontaliers
548
+ '91': gendarmerie
549
+ '92': gens du voyage
550
+ '93': grandes écoles
551
+ '94': handicapés
552
+ '95': heure légale
553
+ '96': hôtellerie et restauration
554
+ '97': impôt de solidarité sur la fortune
555
+ '98': impôt sur le revenu
556
+ '99': impôt sur les sociétés
557
+ '100': impôts et taxes
558
+ '101': impôts locaux
559
+ '102': industrie
560
+ '103': informatique
561
+ '104': institutions sociales et médico-sociales
562
+ '105': jeunes
563
+ '106': jeux et paris
564
+ '107': justice
565
+ '108': langue française
566
+ '109': logement
567
+ '110': 'logement : aides et prêts'
568
+ '111': marchés financiers
569
+ '112': marchés publics
570
+ '113': matières premières
571
+ '114': médecines parallèles
572
+ '115': mer et littoral
573
+ '116': mines et carrières
574
+ '117': ministères et secrétariats d'État
575
+ '118': mort
576
+ '119': moyens de paiement
577
+ '120': nationalité
578
+ '121': ordre public
579
+ '122': organisations internationales
580
+ '123': outre-mer
581
+ '124': papiers d'identité
582
+ '125': Parlement
583
+ '126': partis et mouvements politiques
584
+ '127': patrimoine culturel
585
+ '128': pensions militaires d'invalidité
586
+ '129': personnes âgées
587
+ '130': pharmacie et médicaments
588
+ '131': 'plus-values : imposition'
589
+ '132': police
590
+ '133': politique économique
591
+ '134': politique extérieure
592
+ '135': politique sociale
593
+ '136': politiques communautaires
594
+ '137': postes
595
+ '138': préretraites
596
+ '139': presse et livres
597
+ '140': prestations familiales
598
+ '141': produits dangereux
599
+ '142': professions de santé
600
+ '143': professions immobilières
601
+ '144': professions judiciaires et juridiques
602
+ '145': professions libérales
603
+ '146': professions sociales
604
+ '147': propriété
605
+ '148': propriété intellectuelle
606
+ '149': publicité
607
+ '150': rapatriés
608
+ '151': recherche
609
+ '152': régions
610
+ '153': relations internationales
611
+ '154': 'retraites : fonctionnaires civils et militaires'
612
+ '155': 'retraites : généralités'
613
+ '156': 'retraites : régime agricole'
614
+ '157': 'retraites : régime général'
615
+ '158': 'retraites : régimes autonomes et spéciaux'
616
+ '159': risques professionnels
617
+ '160': saisies et sûretés
618
+ '161': sang et organes humains
619
+ '162': santé
620
+ '163': secteur public
621
+ '164': sécurité publique
622
+ '165': sécurité routière
623
+ '166': sécurité sociale
624
+ '167': services
625
+ '168': sociétés
626
+ '169': sports
627
+ '170': syndicats
628
+ '171': système pénitentiaire
629
+ '172': taxis
630
+ '173': télécommunications
631
+ '174': tourisme et loisirs
632
+ '175': traités et conventions
633
+ '176': transports
634
+ '177': transports aériens
635
+ '178': transports ferroviaires
636
+ '179': transports par eau
637
+ '180': transports routiers
638
+ '181': transports urbains
639
+ '182': travail
640
+ '183': TVA
641
+ '184': Union européenne
642
+ '185': urbanisme
643
+ '186': ventes et échanges
644
+ '187': voirie
645
+ splits:
646
+ - name: train
647
+ num_bytes: 74657600
648
+ num_examples: 63683
649
+ - name: validation
650
+ num_bytes: 11745977
651
+ num_examples: 10000
652
+ - name: test
653
+ num_bytes: 11683241
654
+ num_examples: 10000
655
+ download_size: 53133828
656
+ dataset_size: 98086818
657
+ configs:
658
+ - config_name: qran_answer
659
+ data_files:
660
+ - split: train
661
+ path: qran_answer/train-*
662
+ - split: validation
663
+ path: qran_answer/validation-*
664
+ - split: test
665
+ path: qran_answer/test-*
666
+ default: true
667
+ - config_name: qran_full
668
+ data_files:
669
+ - split: train
670
+ path: qran_full/train-*
671
+ - split: validation
672
+ path: qran_full/validation-*
673
+ - split: test
674
+ path: qran_full/test-*
675
+ - config_name: qran_generation
676
+ data_files:
677
+ - split: train
678
+ path: qran_generation/train-*
679
+ - split: validation
680
+ path: qran_generation/validation-*
681
+ - split: test
682
+ path: qran_generation/test-*
683
+ - config_name: qran_question
684
+ data_files:
685
+ - split: train
686
+ path: qran_question/train-*
687
+ - split: validation
688
+ path: qran_question/validation-*
689
+ - split: test
690
+ path: qran_question/test-*
691
  ---
692
 
693
  **QR-AN Dataset: a classification and generation dataset of french Parliament questions-answers.**
test_data.txt → qran_answer/test-00000-of-00001.parquet RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:2df2acf22defcd9b49ff17a19c229b7532151665ad88466dd9031684dd39a697
3
- size 46038010
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:34c84f3b9d118005ce326e383a6103cf02b5fbb878785c40b5952a742eb60617
3
+ size 14214461
val_data.txt → qran_answer/train-00000-of-00001.parquet RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:8d22e95b90b05f3a14b02e5a429aa7a7f38a3997e8601b177a8f6b989c3663af
3
- size 46150814
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b05fec4a581e8c6a40c6fcde2f62427b982b3735d2a5eabd7de0afef0742a43b
3
+ size 90703864
train_data.txt → qran_answer/validation-00000-of-00001.parquet RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:cbeb132d8c3f07b8b8100aa901ea0c11b000c512902317cefd465dc86d42c23d
3
- size 294128158
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:138e10c89375d318736f3281ef1ed95edaba4aca60309c5f000a7b002ac60ce9
3
+ size 14304435
qran_full/test-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ffe36b80ba0fa14407bbe3b49d8ee28825dbe04a36171710dc2f5ee6c5542944
3
+ size 21190574
qran_full/train-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:043c770fbe972ad1cc8c4aa6e4f19708ad039c51adb5566e2d9bf56f62ce9693
3
+ size 135403075
qran_full/validation-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4a7839a9d205a24e550601ba8fe2908e2bd1e6f32dbf2a706994760608c95f36
3
+ size 21325427
qran_generation/test-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6a1bbdea14e3bc3c403874efebb336e0cde752891841b93579809106dc54e78e
3
+ size 20497143
qran_generation/train-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6037ade57d78d1dc78921b0ab78d5aea74b0168fbb4c8bf8816c1f4c56214152
3
+ size 130854668
qran_generation/validation-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:7f508047abf61eeccc4ee527a4def373b9b90755453553563b61516c1b08267e
3
+ size 20611804
qran_question/test-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:45d6d04efa2e14ff08c5a6771c294933ec1befbc4b0992c9104d1232070f13e4
3
+ size 6344844
qran_question/train-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2964e042f030520ca092dc573958772e6dc01ed596d9a608c2cd2e345196ee06
3
+ size 40419621
qran_question/validation-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1afc155581d6d39809ee0a16d2dea3109fc5c8763abf3589f098bcd89621b2fa
3
+ size 6369363