|
--- |
|
language: |
|
- fr |
|
size_categories: 10K<n<100K |
|
task_categories: |
|
- summarization |
|
- text-classification |
|
- text-generation |
|
task_ids: |
|
- multi-class-classification |
|
- topic-classification |
|
tags: |
|
- conditional-text-generation |
|
dataset_info: |
|
- config_name: qran_answer |
|
features: |
|
- name: text |
|
dtype: string |
|
- name: label |
|
dtype: |
|
class_label: |
|
names: |
|
'0': administration |
|
'1': agriculture |
|
'2': agroalimentaire |
|
'3': aménagement du territoire |
|
'4': anciens combattants et victimes de guerre |
|
'5': animaux |
|
'6': aquaculture et pêche professionnelle |
|
'7': architecture |
|
'8': archives et bibliothèques |
|
'9': armes |
|
'10': arts et spectacles |
|
'11': associations |
|
'12': assurance invalidité décès |
|
'13': 'assurance maladie maternité : généralités' |
|
'14': 'assurance maladie maternité : prestations' |
|
'15': assurances |
|
'16': audiovisuel et communication |
|
'17': automobiles et cycles |
|
'18': avortement |
|
'19': banques et établissements financiers |
|
'20': bâtiment et travaux publics |
|
'21': baux |
|
'22': bioéthique |
|
'23': bois et forêts |
|
'24': bourses d'études |
|
'25': cérémonies publiques et fêtes légales |
|
'26': chambres consulaires |
|
'27': chasse et pêche |
|
'28': 'chômage : indemnisation' |
|
'29': collectivités territoriales |
|
'30': commerce et artisanat |
|
'31': commerce extérieur |
|
'32': communes |
|
'33': consommation |
|
'34': contributions indirectes |
|
'35': coopération intercommunale |
|
'36': copropriété |
|
'37': corps diplomatique et consulaire |
|
'38': cours d'eau, étangs et lacs |
|
'39': cultes |
|
'40': culture |
|
'41': déchéances et incapacités |
|
'42': déchets, pollution et nuisances |
|
'43': décorations, insignes et emblèmes |
|
'44': défense |
|
'45': démographie |
|
'46': départements |
|
'47': donations et successions |
|
'48': drogue |
|
'49': droit pénal |
|
'50': droits de l'Homme et libertés publiques |
|
'51': eau |
|
'52': économie sociale |
|
'53': éducation physique et sportive |
|
'54': élections et référendums |
|
'55': élevage |
|
'56': emploi |
|
'57': énergie et carburants |
|
'58': enfants |
|
'59': enregistrement et timbre |
|
'60': enseignement |
|
'61': 'enseignement : personnel' |
|
'62': enseignement agricole |
|
'63': enseignement maternel et primaire |
|
'64': 'enseignement maternel et primaire : personnel' |
|
'65': enseignement privé |
|
'66': enseignement secondaire |
|
'67': 'enseignement secondaire : personnel' |
|
'68': enseignement supérieur |
|
'69': 'enseignement supérieur : personnel' |
|
'70': enseignement technique et professionnel |
|
'71': 'enseignement technique et professionnel : personnel' |
|
'72': enseignements artistiques |
|
'73': entreprises |
|
'74': environnement |
|
'75': ésotérisme |
|
'76': espace |
|
'77': établissements de santé |
|
'78': État |
|
'79': état civil |
|
'80': étrangers |
|
'81': famille |
|
'82': femmes |
|
'83': finances publiques |
|
'84': fonction publique de l'État |
|
'85': fonction publique hospitalière |
|
'86': fonction publique territoriale |
|
'87': fonctionnaires et agents publics |
|
'88': formation professionnelle |
|
'89': Français de l'étranger |
|
'90': frontaliers |
|
'91': gendarmerie |
|
'92': gens du voyage |
|
'93': grandes écoles |
|
'94': handicapés |
|
'95': heure légale |
|
'96': hôtellerie et restauration |
|
'97': impôt de solidarité sur la fortune |
|
'98': impôt sur le revenu |
|
'99': impôt sur les sociétés |
|
'100': impôts et taxes |
|
'101': impôts locaux |
|
'102': industrie |
|
'103': informatique |
|
'104': institutions sociales et médico-sociales |
|
'105': jeunes |
|
'106': jeux et paris |
|
'107': justice |
|
'108': langue française |
|
'109': logement |
|
'110': 'logement : aides et prêts' |
|
'111': marchés financiers |
|
'112': marchés publics |
|
'113': matières premières |
|
'114': médecines parallèles |
|
'115': mer et littoral |
|
'116': mines et carrières |
|
'117': ministères et secrétariats d'État |
|
'118': mort |
|
'119': moyens de paiement |
|
'120': nationalité |
|
'121': ordre public |
|
'122': organisations internationales |
|
'123': outre-mer |
|
'124': papiers d'identité |
|
'125': Parlement |
|
'126': partis et mouvements politiques |
|
'127': patrimoine culturel |
|
'128': pensions militaires d'invalidité |
|
'129': personnes âgées |
|
'130': pharmacie et médicaments |
|
'131': 'plus-values : imposition' |
|
'132': police |
|
'133': politique économique |
|
'134': politique extérieure |
|
'135': politique sociale |
|
'136': politiques communautaires |
|
'137': postes |
|
'138': préretraites |
|
'139': presse et livres |
|
'140': prestations familiales |
|
'141': produits dangereux |
|
'142': professions de santé |
|
'143': professions immobilières |
|
'144': professions judiciaires et juridiques |
|
'145': professions libérales |
|
'146': professions sociales |
|
'147': propriété |
|
'148': propriété intellectuelle |
|
'149': publicité |
|
'150': rapatriés |
|
'151': recherche |
|
'152': régions |
|
'153': relations internationales |
|
'154': 'retraites : fonctionnaires civils et militaires' |
|
'155': 'retraites : généralités' |
|
'156': 'retraites : régime agricole' |
|
'157': 'retraites : régime général' |
|
'158': 'retraites : régimes autonomes et spéciaux' |
|
'159': risques professionnels |
|
'160': saisies et sûretés |
|
'161': sang et organes humains |
|
'162': santé |
|
'163': secteur public |
|
'164': sécurité publique |
|
'165': sécurité routière |
|
'166': sécurité sociale |
|
'167': services |
|
'168': sociétés |
|
'169': sports |
|
'170': syndicats |
|
'171': système pénitentiaire |
|
'172': taxis |
|
'173': télécommunications |
|
'174': tourisme et loisirs |
|
'175': traités et conventions |
|
'176': transports |
|
'177': transports aériens |
|
'178': transports ferroviaires |
|
'179': transports par eau |
|
'180': transports routiers |
|
'181': transports urbains |
|
'182': travail |
|
'183': TVA |
|
'184': Union européenne |
|
'185': urbanisme |
|
'186': ventes et échanges |
|
'187': voirie |
|
splits: |
|
- name: train |
|
num_bytes: 183336142 |
|
num_examples: 63683 |
|
- name: validation |
|
num_bytes: 28746666 |
|
num_examples: 10000 |
|
- name: test |
|
num_bytes: 28694899 |
|
num_examples: 10000 |
|
download_size: 119222760 |
|
dataset_size: 240777707 |
|
- config_name: qran_full |
|
features: |
|
- name: text |
|
dtype: string |
|
- name: label |
|
dtype: |
|
class_label: |
|
names: |
|
'0': administration |
|
'1': agriculture |
|
'2': agroalimentaire |
|
'3': aménagement du territoire |
|
'4': anciens combattants et victimes de guerre |
|
'5': animaux |
|
'6': aquaculture et pêche professionnelle |
|
'7': architecture |
|
'8': archives et bibliothèques |
|
'9': armes |
|
'10': arts et spectacles |
|
'11': associations |
|
'12': assurance invalidité décès |
|
'13': 'assurance maladie maternité : généralités' |
|
'14': 'assurance maladie maternité : prestations' |
|
'15': assurances |
|
'16': audiovisuel et communication |
|
'17': automobiles et cycles |
|
'18': avortement |
|
'19': banques et établissements financiers |
|
'20': bâtiment et travaux publics |
|
'21': baux |
|
'22': bioéthique |
|
'23': bois et forêts |
|
'24': bourses d'études |
|
'25': cérémonies publiques et fêtes légales |
|
'26': chambres consulaires |
|
'27': chasse et pêche |
|
'28': 'chômage : indemnisation' |
|
'29': collectivités territoriales |
|
'30': commerce et artisanat |
|
'31': commerce extérieur |
|
'32': communes |
|
'33': consommation |
|
'34': contributions indirectes |
|
'35': coopération intercommunale |
|
'36': copropriété |
|
'37': corps diplomatique et consulaire |
|
'38': cours d'eau, étangs et lacs |
|
'39': cultes |
|
'40': culture |
|
'41': déchéances et incapacités |
|
'42': déchets, pollution et nuisances |
|
'43': décorations, insignes et emblèmes |
|
'44': défense |
|
'45': démographie |
|
'46': départements |
|
'47': donations et successions |
|
'48': drogue |
|
'49': droit pénal |
|
'50': droits de l'Homme et libertés publiques |
|
'51': eau |
|
'52': économie sociale |
|
'53': éducation physique et sportive |
|
'54': élections et référendums |
|
'55': élevage |
|
'56': emploi |
|
'57': énergie et carburants |
|
'58': enfants |
|
'59': enregistrement et timbre |
|
'60': enseignement |
|
'61': 'enseignement : personnel' |
|
'62': enseignement agricole |
|
'63': enseignement maternel et primaire |
|
'64': 'enseignement maternel et primaire : personnel' |
|
'65': enseignement privé |
|
'66': enseignement secondaire |
|
'67': 'enseignement secondaire : personnel' |
|
'68': enseignement supérieur |
|
'69': 'enseignement supérieur : personnel' |
|
'70': enseignement technique et professionnel |
|
'71': 'enseignement technique et professionnel : personnel' |
|
'72': enseignements artistiques |
|
'73': entreprises |
|
'74': environnement |
|
'75': ésotérisme |
|
'76': espace |
|
'77': établissements de santé |
|
'78': État |
|
'79': état civil |
|
'80': étrangers |
|
'81': famille |
|
'82': femmes |
|
'83': finances publiques |
|
'84': fonction publique de l'État |
|
'85': fonction publique hospitalière |
|
'86': fonction publique territoriale |
|
'87': fonctionnaires et agents publics |
|
'88': formation professionnelle |
|
'89': Français de l'étranger |
|
'90': frontaliers |
|
'91': gendarmerie |
|
'92': gens du voyage |
|
'93': grandes écoles |
|
'94': handicapés |
|
'95': heure légale |
|
'96': hôtellerie et restauration |
|
'97': impôt de solidarité sur la fortune |
|
'98': impôt sur le revenu |
|
'99': impôt sur les sociétés |
|
'100': impôts et taxes |
|
'101': impôts locaux |
|
'102': industrie |
|
'103': informatique |
|
'104': institutions sociales et médico-sociales |
|
'105': jeunes |
|
'106': jeux et paris |
|
'107': justice |
|
'108': langue française |
|
'109': logement |
|
'110': 'logement : aides et prêts' |
|
'111': marchés financiers |
|
'112': marchés publics |
|
'113': matières premières |
|
'114': médecines parallèles |
|
'115': mer et littoral |
|
'116': mines et carrières |
|
'117': ministères et secrétariats d'État |
|
'118': mort |
|
'119': moyens de paiement |
|
'120': nationalité |
|
'121': ordre public |
|
'122': organisations internationales |
|
'123': outre-mer |
|
'124': papiers d'identité |
|
'125': Parlement |
|
'126': partis et mouvements politiques |
|
'127': patrimoine culturel |
|
'128': pensions militaires d'invalidité |
|
'129': personnes âgées |
|
'130': pharmacie et médicaments |
|
'131': 'plus-values : imposition' |
|
'132': police |
|
'133': politique économique |
|
'134': politique extérieure |
|
'135': politique sociale |
|
'136': politiques communautaires |
|
'137': postes |
|
'138': préretraites |
|
'139': presse et livres |
|
'140': prestations familiales |
|
'141': produits dangereux |
|
'142': professions de santé |
|
'143': professions immobilières |
|
'144': professions judiciaires et juridiques |
|
'145': professions libérales |
|
'146': professions sociales |
|
'147': propriété |
|
'148': propriété intellectuelle |
|
'149': publicité |
|
'150': rapatriés |
|
'151': recherche |
|
'152': régions |
|
'153': relations internationales |
|
'154': 'retraites : fonctionnaires civils et militaires' |
|
'155': 'retraites : généralités' |
|
'156': 'retraites : régime agricole' |
|
'157': 'retraites : régime général' |
|
'158': 'retraites : régimes autonomes et spéciaux' |
|
'159': risques professionnels |
|
'160': saisies et sûretés |
|
'161': sang et organes humains |
|
'162': santé |
|
'163': secteur public |
|
'164': sécurité publique |
|
'165': sécurité routière |
|
'166': sécurité sociale |
|
'167': services |
|
'168': sociétés |
|
'169': sports |
|
'170': syndicats |
|
'171': système pénitentiaire |
|
'172': taxis |
|
'173': télécommunications |
|
'174': tourisme et loisirs |
|
'175': traités et conventions |
|
'176': transports |
|
'177': transports aériens |
|
'178': transports ferroviaires |
|
'179': transports par eau |
|
'180': transports routiers |
|
'181': transports urbains |
|
'182': travail |
|
'183': TVA |
|
'184': Union européenne |
|
'185': urbanisme |
|
'186': ventes et échanges |
|
'187': voirie |
|
splits: |
|
- name: train |
|
num_bytes: 257293229 |
|
num_examples: 63683 |
|
- name: validation |
|
num_bytes: 40382643 |
|
num_examples: 10000 |
|
- name: test |
|
num_bytes: 40268140 |
|
num_examples: 10000 |
|
download_size: 177919076 |
|
dataset_size: 337944012 |
|
- config_name: qran_generation |
|
features: |
|
- name: question |
|
dtype: string |
|
- name: answer |
|
dtype: string |
|
splits: |
|
- name: train |
|
num_bytes: 256974814 |
|
num_examples: 63683 |
|
- name: validation |
|
num_bytes: 40332643 |
|
num_examples: 10000 |
|
- name: test |
|
num_bytes: 40218140 |
|
num_examples: 10000 |
|
download_size: 171963615 |
|
dataset_size: 337525597 |
|
- config_name: qran_question |
|
features: |
|
- name: text |
|
dtype: string |
|
- name: label |
|
dtype: |
|
class_label: |
|
names: |
|
'0': administration |
|
'1': agriculture |
|
'2': agroalimentaire |
|
'3': aménagement du territoire |
|
'4': anciens combattants et victimes de guerre |
|
'5': animaux |
|
'6': aquaculture et pêche professionnelle |
|
'7': architecture |
|
'8': archives et bibliothèques |
|
'9': armes |
|
'10': arts et spectacles |
|
'11': associations |
|
'12': assurance invalidité décès |
|
'13': 'assurance maladie maternité : généralités' |
|
'14': 'assurance maladie maternité : prestations' |
|
'15': assurances |
|
'16': audiovisuel et communication |
|
'17': automobiles et cycles |
|
'18': avortement |
|
'19': banques et établissements financiers |
|
'20': bâtiment et travaux publics |
|
'21': baux |
|
'22': bioéthique |
|
'23': bois et forêts |
|
'24': bourses d'études |
|
'25': cérémonies publiques et fêtes légales |
|
'26': chambres consulaires |
|
'27': chasse et pêche |
|
'28': 'chômage : indemnisation' |
|
'29': collectivités territoriales |
|
'30': commerce et artisanat |
|
'31': commerce extérieur |
|
'32': communes |
|
'33': consommation |
|
'34': contributions indirectes |
|
'35': coopération intercommunale |
|
'36': copropriété |
|
'37': corps diplomatique et consulaire |
|
'38': cours d'eau, étangs et lacs |
|
'39': cultes |
|
'40': culture |
|
'41': déchéances et incapacités |
|
'42': déchets, pollution et nuisances |
|
'43': décorations, insignes et emblèmes |
|
'44': défense |
|
'45': démographie |
|
'46': départements |
|
'47': donations et successions |
|
'48': drogue |
|
'49': droit pénal |
|
'50': droits de l'Homme et libertés publiques |
|
'51': eau |
|
'52': économie sociale |
|
'53': éducation physique et sportive |
|
'54': élections et référendums |
|
'55': élevage |
|
'56': emploi |
|
'57': énergie et carburants |
|
'58': enfants |
|
'59': enregistrement et timbre |
|
'60': enseignement |
|
'61': 'enseignement : personnel' |
|
'62': enseignement agricole |
|
'63': enseignement maternel et primaire |
|
'64': 'enseignement maternel et primaire : personnel' |
|
'65': enseignement privé |
|
'66': enseignement secondaire |
|
'67': 'enseignement secondaire : personnel' |
|
'68': enseignement supérieur |
|
'69': 'enseignement supérieur : personnel' |
|
'70': enseignement technique et professionnel |
|
'71': 'enseignement technique et professionnel : personnel' |
|
'72': enseignements artistiques |
|
'73': entreprises |
|
'74': environnement |
|
'75': ésotérisme |
|
'76': espace |
|
'77': établissements de santé |
|
'78': État |
|
'79': état civil |
|
'80': étrangers |
|
'81': famille |
|
'82': femmes |
|
'83': finances publiques |
|
'84': fonction publique de l'État |
|
'85': fonction publique hospitalière |
|
'86': fonction publique territoriale |
|
'87': fonctionnaires et agents publics |
|
'88': formation professionnelle |
|
'89': Français de l'étranger |
|
'90': frontaliers |
|
'91': gendarmerie |
|
'92': gens du voyage |
|
'93': grandes écoles |
|
'94': handicapés |
|
'95': heure légale |
|
'96': hôtellerie et restauration |
|
'97': impôt de solidarité sur la fortune |
|
'98': impôt sur le revenu |
|
'99': impôt sur les sociétés |
|
'100': impôts et taxes |
|
'101': impôts locaux |
|
'102': industrie |
|
'103': informatique |
|
'104': institutions sociales et médico-sociales |
|
'105': jeunes |
|
'106': jeux et paris |
|
'107': justice |
|
'108': langue française |
|
'109': logement |
|
'110': 'logement : aides et prêts' |
|
'111': marchés financiers |
|
'112': marchés publics |
|
'113': matières premières |
|
'114': médecines parallèles |
|
'115': mer et littoral |
|
'116': mines et carrières |
|
'117': ministères et secrétariats d'État |
|
'118': mort |
|
'119': moyens de paiement |
|
'120': nationalité |
|
'121': ordre public |
|
'122': organisations internationales |
|
'123': outre-mer |
|
'124': papiers d'identité |
|
'125': Parlement |
|
'126': partis et mouvements politiques |
|
'127': patrimoine culturel |
|
'128': pensions militaires d'invalidité |
|
'129': personnes âgées |
|
'130': pharmacie et médicaments |
|
'131': 'plus-values : imposition' |
|
'132': police |
|
'133': politique économique |
|
'134': politique extérieure |
|
'135': politique sociale |
|
'136': politiques communautaires |
|
'137': postes |
|
'138': préretraites |
|
'139': presse et livres |
|
'140': prestations familiales |
|
'141': produits dangereux |
|
'142': professions de santé |
|
'143': professions immobilières |
|
'144': professions judiciaires et juridiques |
|
'145': professions libérales |
|
'146': professions sociales |
|
'147': propriété |
|
'148': propriété intellectuelle |
|
'149': publicité |
|
'150': rapatriés |
|
'151': recherche |
|
'152': régions |
|
'153': relations internationales |
|
'154': 'retraites : fonctionnaires civils et militaires' |
|
'155': 'retraites : généralités' |
|
'156': 'retraites : régime agricole' |
|
'157': 'retraites : régime général' |
|
'158': 'retraites : régimes autonomes et spéciaux' |
|
'159': risques professionnels |
|
'160': saisies et sûretés |
|
'161': sang et organes humains |
|
'162': santé |
|
'163': secteur public |
|
'164': sécurité publique |
|
'165': sécurité routière |
|
'166': sécurité sociale |
|
'167': services |
|
'168': sociétés |
|
'169': sports |
|
'170': syndicats |
|
'171': système pénitentiaire |
|
'172': taxis |
|
'173': télécommunications |
|
'174': tourisme et loisirs |
|
'175': traités et conventions |
|
'176': transports |
|
'177': transports aériens |
|
'178': transports ferroviaires |
|
'179': transports par eau |
|
'180': transports routiers |
|
'181': transports urbains |
|
'182': travail |
|
'183': TVA |
|
'184': Union européenne |
|
'185': urbanisme |
|
'186': ventes et échanges |
|
'187': voirie |
|
splits: |
|
- name: train |
|
num_bytes: 74657600 |
|
num_examples: 63683 |
|
- name: validation |
|
num_bytes: 11745977 |
|
num_examples: 10000 |
|
- name: test |
|
num_bytes: 11683241 |
|
num_examples: 10000 |
|
download_size: 53133828 |
|
dataset_size: 98086818 |
|
configs: |
|
- config_name: qran_answer |
|
data_files: |
|
- split: train |
|
path: qran_answer/train-* |
|
- split: validation |
|
path: qran_answer/validation-* |
|
- split: test |
|
path: qran_answer/test-* |
|
default: true |
|
- config_name: qran_full |
|
data_files: |
|
- split: train |
|
path: qran_full/train-* |
|
- split: validation |
|
path: qran_full/validation-* |
|
- split: test |
|
path: qran_full/test-* |
|
- config_name: qran_generation |
|
data_files: |
|
- split: train |
|
path: qran_generation/train-* |
|
- split: validation |
|
path: qran_generation/validation-* |
|
- split: test |
|
path: qran_generation/test-* |
|
- config_name: qran_question |
|
data_files: |
|
- split: train |
|
path: qran_question/train-* |
|
- split: validation |
|
path: qran_question/validation-* |
|
- split: test |
|
path: qran_question/test-* |
|
--- |
|
|
|
**QR-AN Dataset: a classification and generation dataset of french Parliament questions-answers.** |
|
|
|
This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions . \ |
|
|
|
It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k). \ |
|
|
|
Can be used for generation with 'qran_generation' |
|
This dataset is compatible with the [`run_summarization.py`](https://github.com/huggingface/transformers/tree/master/examples/pytorch/summarization) script from Transformers if you add this line to the `summarization_name_mapping` variable: |
|
```python |
|
"ccdv/cass-summarization": ("question", "answer") |
|
``` |
|
|
|
Compatible with [run_glue.py](https://github.com/huggingface/transformers/tree/master/examples/pytorch/text-classification) script: |
|
``` |
|
export MODEL_NAME=camembert-base |
|
export MAX_SEQ_LENGTH=512 |
|
|
|
python run_glue.py \ |
|
--model_name_or_path $MODEL_NAME \ |
|
--dataset_name cassandra-themis/QR-AN \ |
|
--do_train \ |
|
--do_eval \ |
|
--max_seq_length $MAX_SEQ_LENGTH \ |
|
--per_device_train_batch_size 8 \ |
|
--gradient_accumulation_steps 4 \ |
|
--learning_rate 2e-5 \ |
|
--num_train_epochs 1 \ |
|
--max_eval_samples 500 \ |
|
--output_dir tmp/QR-AN |
|
``` |
