QR-AN / README.md
albertvillanova's picture
Convert dataset to Parquet (#6)
9a0259a verified
|
raw
history blame
No virus
24.7 kB
metadata
language:
  - fr
size_categories: 10K<n<100K
task_categories:
  - summarization
  - text-classification
  - text-generation
task_ids:
  - multi-class-classification
  - topic-classification
tags:
  - conditional-text-generation
dataset_info:
  - config_name: qran_answer
    features:
      - name: text
        dtype: string
      - name: label
        dtype:
          class_label:
            names:
              '0': administration
              '1': agriculture
              '2': agroalimentaire
              '3': aménagement du territoire
              '4': anciens combattants et victimes de guerre
              '5': animaux
              '6': aquaculture et pêche professionnelle
              '7': architecture
              '8': archives et bibliothèques
              '9': armes
              '10': arts et spectacles
              '11': associations
              '12': assurance invalidité décès
              '13': 'assurance maladie maternité : généralités'
              '14': 'assurance maladie maternité : prestations'
              '15': assurances
              '16': audiovisuel et communication
              '17': automobiles et cycles
              '18': avortement
              '19': banques et établissements financiers
              '20': bâtiment et travaux publics
              '21': baux
              '22': bioéthique
              '23': bois et forêts
              '24': bourses d'études
              '25': cérémonies publiques et fêtes légales
              '26': chambres consulaires
              '27': chasse et pêche
              '28': 'chômage : indemnisation'
              '29': collectivités territoriales
              '30': commerce et artisanat
              '31': commerce extérieur
              '32': communes
              '33': consommation
              '34': contributions indirectes
              '35': coopération intercommunale
              '36': copropriété
              '37': corps diplomatique et consulaire
              '38': cours d'eau, étangs et lacs
              '39': cultes
              '40': culture
              '41': déchéances et incapacités
              '42': déchets, pollution et nuisances
              '43': décorations, insignes et emblèmes
              '44': défense
              '45': démographie
              '46': départements
              '47': donations et successions
              '48': drogue
              '49': droit pénal
              '50': droits de l'Homme et libertés publiques
              '51': eau
              '52': économie sociale
              '53': éducation physique et sportive
              '54': élections et référendums
              '55': élevage
              '56': emploi
              '57': énergie et carburants
              '58': enfants
              '59': enregistrement et timbre
              '60': enseignement
              '61': 'enseignement : personnel'
              '62': enseignement agricole
              '63': enseignement maternel et primaire
              '64': 'enseignement maternel et primaire : personnel'
              '65': enseignement privé
              '66': enseignement secondaire
              '67': 'enseignement secondaire : personnel'
              '68': enseignement supérieur
              '69': 'enseignement supérieur : personnel'
              '70': enseignement technique et professionnel
              '71': 'enseignement technique et professionnel : personnel'
              '72': enseignements artistiques
              '73': entreprises
              '74': environnement
              '75': ésotérisme
              '76': espace
              '77': établissements de santé
              '78': État
              '79': état civil
              '80': étrangers
              '81': famille
              '82': femmes
              '83': finances publiques
              '84': fonction publique de l'État
              '85': fonction publique hospitalière
              '86': fonction publique territoriale
              '87': fonctionnaires et agents publics
              '88': formation professionnelle
              '89': Français de l'étranger
              '90': frontaliers
              '91': gendarmerie
              '92': gens du voyage
              '93': grandes écoles
              '94': handicapés
              '95': heure légale
              '96': hôtellerie et restauration
              '97': impôt de solidarité sur la fortune
              '98': impôt sur le revenu
              '99': impôt sur les sociétés
              '100': impôts et taxes
              '101': impôts locaux
              '102': industrie
              '103': informatique
              '104': institutions sociales et médico-sociales
              '105': jeunes
              '106': jeux et paris
              '107': justice
              '108': langue française
              '109': logement
              '110': 'logement : aides et prêts'
              '111': marchés financiers
              '112': marchés publics
              '113': matières premières
              '114': médecines parallèles
              '115': mer et littoral
              '116': mines et carrières
              '117': ministères et secrétariats d'État
              '118': mort
              '119': moyens de paiement
              '120': nationalité
              '121': ordre public
              '122': organisations internationales
              '123': outre-mer
              '124': papiers d'identité
              '125': Parlement
              '126': partis et mouvements politiques
              '127': patrimoine culturel
              '128': pensions militaires d'invalidité
              '129': personnes âgées
              '130': pharmacie et médicaments
              '131': 'plus-values : imposition'
              '132': police
              '133': politique économique
              '134': politique extérieure
              '135': politique sociale
              '136': politiques communautaires
              '137': postes
              '138': préretraites
              '139': presse et livres
              '140': prestations familiales
              '141': produits dangereux
              '142': professions de santé
              '143': professions immobilières
              '144': professions judiciaires et juridiques
              '145': professions libérales
              '146': professions sociales
              '147': propriété
              '148': propriété intellectuelle
              '149': publicité
              '150': rapatriés
              '151': recherche
              '152': régions
              '153': relations internationales
              '154': 'retraites : fonctionnaires civils et militaires'
              '155': 'retraites : généralités'
              '156': 'retraites : régime agricole'
              '157': 'retraites : régime général'
              '158': 'retraites : régimes autonomes et spéciaux'
              '159': risques professionnels
              '160': saisies et sûretés
              '161': sang et organes humains
              '162': santé
              '163': secteur public
              '164': sécurité publique
              '165': sécurité routière
              '166': sécurité sociale
              '167': services
              '168': sociétés
              '169': sports
              '170': syndicats
              '171': système pénitentiaire
              '172': taxis
              '173': télécommunications
              '174': tourisme et loisirs
              '175': traités et conventions
              '176': transports
              '177': transports aériens
              '178': transports ferroviaires
              '179': transports par eau
              '180': transports routiers
              '181': transports urbains
              '182': travail
              '183': TVA
              '184': Union européenne
              '185': urbanisme
              '186': ventes et échanges
              '187': voirie
    splits:
      - name: train
        num_bytes: 183336142
        num_examples: 63683
      - name: validation
        num_bytes: 28746666
        num_examples: 10000
      - name: test
        num_bytes: 28694899
        num_examples: 10000
    download_size: 119222760
    dataset_size: 240777707
  - config_name: qran_full
    features:
      - name: text
        dtype: string
      - name: label
        dtype:
          class_label:
            names:
              '0': administration
              '1': agriculture
              '2': agroalimentaire
              '3': aménagement du territoire
              '4': anciens combattants et victimes de guerre
              '5': animaux
              '6': aquaculture et pêche professionnelle
              '7': architecture
              '8': archives et bibliothèques
              '9': armes
              '10': arts et spectacles
              '11': associations
              '12': assurance invalidité décès
              '13': 'assurance maladie maternité : généralités'
              '14': 'assurance maladie maternité : prestations'
              '15': assurances
              '16': audiovisuel et communication
              '17': automobiles et cycles
              '18': avortement
              '19': banques et établissements financiers
              '20': bâtiment et travaux publics
              '21': baux
              '22': bioéthique
              '23': bois et forêts
              '24': bourses d'études
              '25': cérémonies publiques et fêtes légales
              '26': chambres consulaires
              '27': chasse et pêche
              '28': 'chômage : indemnisation'
              '29': collectivités territoriales
              '30': commerce et artisanat
              '31': commerce extérieur
              '32': communes
              '33': consommation
              '34': contributions indirectes
              '35': coopération intercommunale
              '36': copropriété
              '37': corps diplomatique et consulaire
              '38': cours d'eau, étangs et lacs
              '39': cultes
              '40': culture
              '41': déchéances et incapacités
              '42': déchets, pollution et nuisances
              '43': décorations, insignes et emblèmes
              '44': défense
              '45': démographie
              '46': départements
              '47': donations et successions
              '48': drogue
              '49': droit pénal
              '50': droits de l'Homme et libertés publiques
              '51': eau
              '52': économie sociale
              '53': éducation physique et sportive
              '54': élections et référendums
              '55': élevage
              '56': emploi
              '57': énergie et carburants
              '58': enfants
              '59': enregistrement et timbre
              '60': enseignement
              '61': 'enseignement : personnel'
              '62': enseignement agricole
              '63': enseignement maternel et primaire
              '64': 'enseignement maternel et primaire : personnel'
              '65': enseignement privé
              '66': enseignement secondaire
              '67': 'enseignement secondaire : personnel'
              '68': enseignement supérieur
              '69': 'enseignement supérieur : personnel'
              '70': enseignement technique et professionnel
              '71': 'enseignement technique et professionnel : personnel'
              '72': enseignements artistiques
              '73': entreprises
              '74': environnement
              '75': ésotérisme
              '76': espace
              '77': établissements de santé
              '78': État
              '79': état civil
              '80': étrangers
              '81': famille
              '82': femmes
              '83': finances publiques
              '84': fonction publique de l'État
              '85': fonction publique hospitalière
              '86': fonction publique territoriale
              '87': fonctionnaires et agents publics
              '88': formation professionnelle
              '89': Français de l'étranger
              '90': frontaliers
              '91': gendarmerie
              '92': gens du voyage
              '93': grandes écoles
              '94': handicapés
              '95': heure légale
              '96': hôtellerie et restauration
              '97': impôt de solidarité sur la fortune
              '98': impôt sur le revenu
              '99': impôt sur les sociétés
              '100': impôts et taxes
              '101': impôts locaux
              '102': industrie
              '103': informatique
              '104': institutions sociales et médico-sociales
              '105': jeunes
              '106': jeux et paris
              '107': justice
              '108': langue française
              '109': logement
              '110': 'logement : aides et prêts'
              '111': marchés financiers
              '112': marchés publics
              '113': matières premières
              '114': médecines parallèles
              '115': mer et littoral
              '116': mines et carrières
              '117': ministères et secrétariats d'État
              '118': mort
              '119': moyens de paiement
              '120': nationalité
              '121': ordre public
              '122': organisations internationales
              '123': outre-mer
              '124': papiers d'identité
              '125': Parlement
              '126': partis et mouvements politiques
              '127': patrimoine culturel
              '128': pensions militaires d'invalidité
              '129': personnes âgées
              '130': pharmacie et médicaments
              '131': 'plus-values : imposition'
              '132': police
              '133': politique économique
              '134': politique extérieure
              '135': politique sociale
              '136': politiques communautaires
              '137': postes
              '138': préretraites
              '139': presse et livres
              '140': prestations familiales
              '141': produits dangereux
              '142': professions de santé
              '143': professions immobilières
              '144': professions judiciaires et juridiques
              '145': professions libérales
              '146': professions sociales
              '147': propriété
              '148': propriété intellectuelle
              '149': publicité
              '150': rapatriés
              '151': recherche
              '152': régions
              '153': relations internationales
              '154': 'retraites : fonctionnaires civils et militaires'
              '155': 'retraites : généralités'
              '156': 'retraites : régime agricole'
              '157': 'retraites : régime général'
              '158': 'retraites : régimes autonomes et spéciaux'
              '159': risques professionnels
              '160': saisies et sûretés
              '161': sang et organes humains
              '162': santé
              '163': secteur public
              '164': sécurité publique
              '165': sécurité routière
              '166': sécurité sociale
              '167': services
              '168': sociétés
              '169': sports
              '170': syndicats
              '171': système pénitentiaire
              '172': taxis
              '173': télécommunications
              '174': tourisme et loisirs
              '175': traités et conventions
              '176': transports
              '177': transports aériens
              '178': transports ferroviaires
              '179': transports par eau
              '180': transports routiers
              '181': transports urbains
              '182': travail
              '183': TVA
              '184': Union européenne
              '185': urbanisme
              '186': ventes et échanges
              '187': voirie
    splits:
      - name: train
        num_bytes: 257293229
        num_examples: 63683
      - name: validation
        num_bytes: 40382643
        num_examples: 10000
      - name: test
        num_bytes: 40268140
        num_examples: 10000
    download_size: 177919076
    dataset_size: 337944012
  - config_name: qran_generation
    features:
      - name: question
        dtype: string
      - name: answer
        dtype: string
    splits:
      - name: train
        num_bytes: 256974814
        num_examples: 63683
      - name: validation
        num_bytes: 40332643
        num_examples: 10000
      - name: test
        num_bytes: 40218140
        num_examples: 10000
    download_size: 171963615
    dataset_size: 337525597
  - config_name: qran_question
    features:
      - name: text
        dtype: string
      - name: label
        dtype:
          class_label:
            names:
              '0': administration
              '1': agriculture
              '2': agroalimentaire
              '3': aménagement du territoire
              '4': anciens combattants et victimes de guerre
              '5': animaux
              '6': aquaculture et pêche professionnelle
              '7': architecture
              '8': archives et bibliothèques
              '9': armes
              '10': arts et spectacles
              '11': associations
              '12': assurance invalidité décès
              '13': 'assurance maladie maternité : généralités'
              '14': 'assurance maladie maternité : prestations'
              '15': assurances
              '16': audiovisuel et communication
              '17': automobiles et cycles
              '18': avortement
              '19': banques et établissements financiers
              '20': bâtiment et travaux publics
              '21': baux
              '22': bioéthique
              '23': bois et forêts
              '24': bourses d'études
              '25': cérémonies publiques et fêtes légales
              '26': chambres consulaires
              '27': chasse et pêche
              '28': 'chômage : indemnisation'
              '29': collectivités territoriales
              '30': commerce et artisanat
              '31': commerce extérieur
              '32': communes
              '33': consommation
              '34': contributions indirectes
              '35': coopération intercommunale
              '36': copropriété
              '37': corps diplomatique et consulaire
              '38': cours d'eau, étangs et lacs
              '39': cultes
              '40': culture
              '41': déchéances et incapacités
              '42': déchets, pollution et nuisances
              '43': décorations, insignes et emblèmes
              '44': défense
              '45': démographie
              '46': départements
              '47': donations et successions
              '48': drogue
              '49': droit pénal
              '50': droits de l'Homme et libertés publiques
              '51': eau
              '52': économie sociale
              '53': éducation physique et sportive
              '54': élections et référendums
              '55': élevage
              '56': emploi
              '57': énergie et carburants
              '58': enfants
              '59': enregistrement et timbre
              '60': enseignement
              '61': 'enseignement : personnel'
              '62': enseignement agricole
              '63': enseignement maternel et primaire
              '64': 'enseignement maternel et primaire : personnel'
              '65': enseignement privé
              '66': enseignement secondaire
              '67': 'enseignement secondaire : personnel'
              '68': enseignement supérieur
              '69': 'enseignement supérieur : personnel'
              '70': enseignement technique et professionnel
              '71': 'enseignement technique et professionnel : personnel'
              '72': enseignements artistiques
              '73': entreprises
              '74': environnement
              '75': ésotérisme
              '76': espace
              '77': établissements de santé
              '78': État
              '79': état civil
              '80': étrangers
              '81': famille
              '82': femmes
              '83': finances publiques
              '84': fonction publique de l'État
              '85': fonction publique hospitalière
              '86': fonction publique territoriale
              '87': fonctionnaires et agents publics
              '88': formation professionnelle
              '89': Français de l'étranger
              '90': frontaliers
              '91': gendarmerie
              '92': gens du voyage
              '93': grandes écoles
              '94': handicapés
              '95': heure légale
              '96': hôtellerie et restauration
              '97': impôt de solidarité sur la fortune
              '98': impôt sur le revenu
              '99': impôt sur les sociétés
              '100': impôts et taxes
              '101': impôts locaux
              '102': industrie
              '103': informatique
              '104': institutions sociales et médico-sociales
              '105': jeunes
              '106': jeux et paris
              '107': justice
              '108': langue française
              '109': logement
              '110': 'logement : aides et prêts'
              '111': marchés financiers
              '112': marchés publics
              '113': matières premières
              '114': médecines parallèles
              '115': mer et littoral
              '116': mines et carrières
              '117': ministères et secrétariats d'État
              '118': mort
              '119': moyens de paiement
              '120': nationalité
              '121': ordre public
              '122': organisations internationales
              '123': outre-mer
              '124': papiers d'identité
              '125': Parlement
              '126': partis et mouvements politiques
              '127': patrimoine culturel
              '128': pensions militaires d'invalidité
              '129': personnes âgées
              '130': pharmacie et médicaments
              '131': 'plus-values : imposition'
              '132': police
              '133': politique économique
              '134': politique extérieure
              '135': politique sociale
              '136': politiques communautaires
              '137': postes
              '138': préretraites
              '139': presse et livres
              '140': prestations familiales
              '141': produits dangereux
              '142': professions de santé
              '143': professions immobilières
              '144': professions judiciaires et juridiques
              '145': professions libérales
              '146': professions sociales
              '147': propriété
              '148': propriété intellectuelle
              '149': publicité
              '150': rapatriés
              '151': recherche
              '152': régions
              '153': relations internationales
              '154': 'retraites : fonctionnaires civils et militaires'
              '155': 'retraites : généralités'
              '156': 'retraites : régime agricole'
              '157': 'retraites : régime général'
              '158': 'retraites : régimes autonomes et spéciaux'
              '159': risques professionnels
              '160': saisies et sûretés
              '161': sang et organes humains
              '162': santé
              '163': secteur public
              '164': sécurité publique
              '165': sécurité routière
              '166': sécurité sociale
              '167': services
              '168': sociétés
              '169': sports
              '170': syndicats
              '171': système pénitentiaire
              '172': taxis
              '173': télécommunications
              '174': tourisme et loisirs
              '175': traités et conventions
              '176': transports
              '177': transports aériens
              '178': transports ferroviaires
              '179': transports par eau
              '180': transports routiers
              '181': transports urbains
              '182': travail
              '183': TVA
              '184': Union européenne
              '185': urbanisme
              '186': ventes et échanges
              '187': voirie
    splits:
      - name: train
        num_bytes: 74657600
        num_examples: 63683
      - name: validation
        num_bytes: 11745977
        num_examples: 10000
      - name: test
        num_bytes: 11683241
        num_examples: 10000
    download_size: 53133828
    dataset_size: 98086818
configs:
  - config_name: qran_answer
    data_files:
      - split: train
        path: qran_answer/train-*
      - split: validation
        path: qran_answer/validation-*
      - split: test
        path: qran_answer/test-*
    default: true
  - config_name: qran_full
    data_files:
      - split: train
        path: qran_full/train-*
      - split: validation
        path: qran_full/validation-*
      - split: test
        path: qran_full/test-*
  - config_name: qran_generation
    data_files:
      - split: train
        path: qran_generation/train-*
      - split: validation
        path: qran_generation/validation-*
      - split: test
        path: qran_generation/test-*
  - config_name: qran_question
    data_files:
      - split: train
        path: qran_question/train-*
      - split: validation
        path: qran_question/validation-*
      - split: test
        path: qran_question/test-*

QR-AN Dataset: a classification and generation dataset of french Parliament questions-answers.

This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions . \

It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k). \

Can be used for generation with 'qran_generation' This dataset is compatible with the run_summarization.py script from Transformers if you add this line to the summarization_name_mapping variable:

"ccdv/cass-summarization": ("question", "answer")

Compatible with run_glue.py script:

export MODEL_NAME=camembert-base
export MAX_SEQ_LENGTH=512

python run_glue.py \
  --model_name_or_path $MODEL_NAME \
  --dataset_name cassandra-themis/QR-AN  \
  --do_train \
  --do_eval \
  --max_seq_length $MAX_SEQ_LENGTH \
  --per_device_train_batch_size 8 \
  --gradient_accumulation_steps 4 \
  --learning_rate 2e-5 \
  --num_train_epochs 1 \
  --max_eval_samples 500 \
  --output_dir tmp/QR-AN