QR-AN / README.md
albertvillanova's picture
Convert dataset to Parquet
5f485f1 verified
|
raw
history blame
9.06 kB
metadata
language:
  - fr
size_categories: 10K<n<100K
task_categories:
  - summarization
  - text-classification
  - text-generation
task_ids:
  - multi-class-classification
  - topic-classification
tags:
  - conditional-text-generation
dataset_info:
  config_name: qran_answer
  features:
    - name: text
      dtype: string
    - name: label
      dtype:
        class_label:
          names:
            '0': administration
            '1': agriculture
            '2': agroalimentaire
            '3': aménagement du territoire
            '4': anciens combattants et victimes de guerre
            '5': animaux
            '6': aquaculture et pêche professionnelle
            '7': architecture
            '8': archives et bibliothèques
            '9': armes
            '10': arts et spectacles
            '11': associations
            '12': assurance invalidité décès
            '13': 'assurance maladie maternité : généralités'
            '14': 'assurance maladie maternité : prestations'
            '15': assurances
            '16': audiovisuel et communication
            '17': automobiles et cycles
            '18': avortement
            '19': banques et établissements financiers
            '20': bâtiment et travaux publics
            '21': baux
            '22': bioéthique
            '23': bois et forêts
            '24': bourses d'études
            '25': cérémonies publiques et fêtes légales
            '26': chambres consulaires
            '27': chasse et pêche
            '28': 'chômage : indemnisation'
            '29': collectivités territoriales
            '30': commerce et artisanat
            '31': commerce extérieur
            '32': communes
            '33': consommation
            '34': contributions indirectes
            '35': coopération intercommunale
            '36': copropriété
            '37': corps diplomatique et consulaire
            '38': cours d'eau, étangs et lacs
            '39': cultes
            '40': culture
            '41': déchéances et incapacités
            '42': déchets, pollution et nuisances
            '43': décorations, insignes et emblèmes
            '44': défense
            '45': démographie
            '46': départements
            '47': donations et successions
            '48': drogue
            '49': droit pénal
            '50': droits de l'Homme et libertés publiques
            '51': eau
            '52': économie sociale
            '53': éducation physique et sportive
            '54': élections et référendums
            '55': élevage
            '56': emploi
            '57': énergie et carburants
            '58': enfants
            '59': enregistrement et timbre
            '60': enseignement
            '61': 'enseignement : personnel'
            '62': enseignement agricole
            '63': enseignement maternel et primaire
            '64': 'enseignement maternel et primaire : personnel'
            '65': enseignement privé
            '66': enseignement secondaire
            '67': 'enseignement secondaire : personnel'
            '68': enseignement supérieur
            '69': 'enseignement supérieur : personnel'
            '70': enseignement technique et professionnel
            '71': 'enseignement technique et professionnel : personnel'
            '72': enseignements artistiques
            '73': entreprises
            '74': environnement
            '75': ésotérisme
            '76': espace
            '77': établissements de santé
            '78': État
            '79': état civil
            '80': étrangers
            '81': famille
            '82': femmes
            '83': finances publiques
            '84': fonction publique de l'État
            '85': fonction publique hospitalière
            '86': fonction publique territoriale
            '87': fonctionnaires et agents publics
            '88': formation professionnelle
            '89': Français de l'étranger
            '90': frontaliers
            '91': gendarmerie
            '92': gens du voyage
            '93': grandes écoles
            '94': handicapés
            '95': heure légale
            '96': hôtellerie et restauration
            '97': impôt de solidarité sur la fortune
            '98': impôt sur le revenu
            '99': impôt sur les sociétés
            '100': impôts et taxes
            '101': impôts locaux
            '102': industrie
            '103': informatique
            '104': institutions sociales et médico-sociales
            '105': jeunes
            '106': jeux et paris
            '107': justice
            '108': langue française
            '109': logement
            '110': 'logement : aides et prêts'
            '111': marchés financiers
            '112': marchés publics
            '113': matières premières
            '114': médecines parallèles
            '115': mer et littoral
            '116': mines et carrières
            '117': ministères et secrétariats d'État
            '118': mort
            '119': moyens de paiement
            '120': nationalité
            '121': ordre public
            '122': organisations internationales
            '123': outre-mer
            '124': papiers d'identité
            '125': Parlement
            '126': partis et mouvements politiques
            '127': patrimoine culturel
            '128': pensions militaires d'invalidité
            '129': personnes âgées
            '130': pharmacie et médicaments
            '131': 'plus-values : imposition'
            '132': police
            '133': politique économique
            '134': politique extérieure
            '135': politique sociale
            '136': politiques communautaires
            '137': postes
            '138': préretraites
            '139': presse et livres
            '140': prestations familiales
            '141': produits dangereux
            '142': professions de santé
            '143': professions immobilières
            '144': professions judiciaires et juridiques
            '145': professions libérales
            '146': professions sociales
            '147': propriété
            '148': propriété intellectuelle
            '149': publicité
            '150': rapatriés
            '151': recherche
            '152': régions
            '153': relations internationales
            '154': 'retraites : fonctionnaires civils et militaires'
            '155': 'retraites : généralités'
            '156': 'retraites : régime agricole'
            '157': 'retraites : régime général'
            '158': 'retraites : régimes autonomes et spéciaux'
            '159': risques professionnels
            '160': saisies et sûretés
            '161': sang et organes humains
            '162': santé
            '163': secteur public
            '164': sécurité publique
            '165': sécurité routière
            '166': sécurité sociale
            '167': services
            '168': sociétés
            '169': sports
            '170': syndicats
            '171': système pénitentiaire
            '172': taxis
            '173': télécommunications
            '174': tourisme et loisirs
            '175': traités et conventions
            '176': transports
            '177': transports aériens
            '178': transports ferroviaires
            '179': transports par eau
            '180': transports routiers
            '181': transports urbains
            '182': travail
            '183': TVA
            '184': Union européenne
            '185': urbanisme
            '186': ventes et échanges
            '187': voirie
  splits:
    - name: train
      num_bytes: 183336142
      num_examples: 63683
    - name: validation
      num_bytes: 28746666
      num_examples: 10000
    - name: test
      num_bytes: 28694899
      num_examples: 10000
  download_size: 119222760
  dataset_size: 240777707
configs:
  - config_name: qran_answer
    data_files:
      - split: train
        path: qran_answer/train-*
      - split: validation
        path: qran_answer/validation-*
      - split: test
        path: qran_answer/test-*
    default: true

QR-AN Dataset: a classification and generation dataset of french Parliament questions-answers.

This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions . \

It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k). \

Can be used for generation with 'qran_generation' This dataset is compatible with the run_summarization.py script from Transformers if you add this line to the summarization_name_mapping variable:

"ccdv/cass-summarization": ("question", "answer")

Compatible with run_glue.py script:

export MODEL_NAME=camembert-base
export MAX_SEQ_LENGTH=512

python run_glue.py \
  --model_name_or_path $MODEL_NAME \
  --dataset_name cassandra-themis/QR-AN  \
  --do_train \
  --do_eval \
  --max_seq_length $MAX_SEQ_LENGTH \
  --per_device_train_batch_size 8 \
  --gradient_accumulation_steps 4 \
  --learning_rate 2e-5 \
  --num_train_epochs 1 \
  --max_eval_samples 500 \
  --output_dir tmp/QR-AN