Update parquet files

.gitattributes

@@ -1,28 +0,0 @@
-*.7z filter=lfs diff=lfs merge=lfs -text
-*.arrow filter=lfs diff=lfs merge=lfs -text
-*.bin filter=lfs diff=lfs merge=lfs -text
-*.bin.* filter=lfs diff=lfs merge=lfs -text
-*.bz2 filter=lfs diff=lfs merge=lfs -text
-*.ftz filter=lfs diff=lfs merge=lfs -text
-*.gz filter=lfs diff=lfs merge=lfs -text
-*.h5 filter=lfs diff=lfs merge=lfs -text
-*.joblib filter=lfs diff=lfs merge=lfs -text
-*.lfs.* filter=lfs diff=lfs merge=lfs -text
-*.model filter=lfs diff=lfs merge=lfs -text
-*.msgpack filter=lfs diff=lfs merge=lfs -text
-*.onnx filter=lfs diff=lfs merge=lfs -text
-*.ot filter=lfs diff=lfs merge=lfs -text
-*.parquet filter=lfs diff=lfs merge=lfs -text
-*.pb filter=lfs diff=lfs merge=lfs -text
-*.pt filter=lfs diff=lfs merge=lfs -text
-*.pth filter=lfs diff=lfs merge=lfs -text
-*.rar filter=lfs diff=lfs merge=lfs -text
-saved_model/**/* filter=lfs diff=lfs merge=lfs -text
-*.tar.* filter=lfs diff=lfs merge=lfs -text
-*.tflite filter=lfs diff=lfs merge=lfs -text
-*.tgz filter=lfs diff=lfs merge=lfs -text
-*.xz filter=lfs diff=lfs merge=lfs -text
-*.zip filter=lfs diff=lfs merge=lfs -text
-*.zstandard filter=lfs diff=lfs merge=lfs -text
-*tfevents* filter=lfs diff=lfs merge=lfs -text
-*.txt filter=lfs diff=lfs merge=lfs -text

QR-AN.py

@@ -1,162 +0,0 @@
-import json
-import os
-
-import datasets
-from datasets.tasks import TextClassification
-
-
-_CITATION = None
-
-
-_DESCRIPTION = """\
- QR-AN Dataset: a classification dataset on french Parliament debates
- This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions.
- It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k).
-"""
-
-
-_LABELS = [
-    'administration', 'agriculture', 'agroalimentaire', 'aménagement du territoire', 'anciens combattants et victimes de guerre', 
-    'animaux', 'aquaculture et pêche professionnelle', 'architecture', 'archives et bibliothèques', 'armes', 'arts et spectacles', 
-    'associations', 'assurance invalidité décès', 'assurance maladie maternité : généralités', 'assurance maladie maternité : prestations', 
-    'assurances', 'audiovisuel et communication', 'automobiles et cycles', 'avortement', 'banques et établissements financiers', 
-    'bâtiment et travaux publics', 'baux', 'bioéthique', 'bois et forêts', "bourses d'études", 'cérémonies publiques et fêtes légales', 
-    'chambres consulaires', 'chasse et pêche', 'chômage : indemnisation', 'collectivités territoriales', 'commerce et artisanat', 
-    'commerce extérieur', 'communes', 'consommation', 'contributions indirectes', 'coopération intercommunale', 'copropriété', 
-    'corps diplomatique et consulaire', "cours d'eau, étangs et lacs", 'cultes', 'culture', 'déchéances et incapacités', 
-    'déchets, pollution et nuisances', 'décorations, insignes et emblèmes', 'défense', 'démographie', 'départements', 
-    'donations et successions', 'drogue', 'droit pénal', "droits de l'Homme et libertés publiques", 'eau', 'économie sociale', 
-    'éducation physique et sportive', 'élections et référendums', 'élevage', 'emploi', 'énergie et carburants', 'enfants', 
-    'enregistrement et timbre', 'enseignement', 'enseignement : personnel', 'enseignement agricole', 
-    'enseignement maternel et primaire', 'enseignement maternel et primaire : personnel', 'enseignement privé', 
-    'enseignement secondaire', 'enseignement secondaire : personnel', 'enseignement supérieur', 
-    'enseignement supérieur : personnel', 'enseignement technique et professionnel', 
-    'enseignement technique et professionnel : personnel', 'enseignements artistiques', 
-    'entreprises', 'environnement', 'ésotérisme', 'espace', 'établissements de santé', 'État', 
-    'état civil', 'étrangers', 'famille', 'femmes', 'finances publiques', "fonction publique de l'État", 
-    'fonction publique hospitalière', 'fonction publique territoriale', 'fonctionnaires et agents publics',
-    'formation professionnelle', "Français de l'étranger", 'frontaliers', 'gendarmerie', 'gens du voyage', 
-    'grandes écoles', 'handicapés', 'heure légale', 'hôtellerie et restauration', 'impôt de solidarité sur la fortune', 
-    'impôt sur le revenu', 'impôt sur les sociétés', 'impôts et taxes', 'impôts locaux', 'industrie', 'informatique', 
-    'institutions sociales et médico-sociales', 'jeunes', 'jeux et paris', 'justice', 'langue française', 'logement', 
-    'logement : aides et prêts', 'marchés financiers', 'marchés publics', 'matières premières', 'médecines parallèles', 
-    'mer et littoral', 'mines et carrières', "ministères et secrétariats d'État", 'mort', 'moyens de paiement', 'nationalité', 
-    'ordre public', 'organisations internationales', 'outre-mer', "papiers d'identité", 'Parlement', 
-    'partis et mouvements politiques', 'patrimoine culturel', "pensions militaires d'invalidité", 'personnes âgées', 
-    'pharmacie et médicaments', 'plus-values : imposition', 'police', 'politique économique', 'politique extérieure', 
-    'politique sociale', 'politiques communautaires', 'postes', 'préretraites', 'presse et livres', 'prestations familiales', 
-    'produits dangereux', 'professions de santé', 'professions immobilières', 'professions judiciaires et juridiques', 
-    'professions libérales', 'professions sociales', 'propriété', 'propriété intellectuelle', 'publicité', 'rapatriés', 
-    'recherche', 'régions', 'relations internationales', 'retraites : fonctionnaires civils et militaires', 
-    'retraites : généralités', 'retraites : régime agricole', 'retraites : régime général', 'retraites : régimes autonomes et spéciaux', 
-    'risques professionnels', 'saisies et sûretés', 'sang et organes humains', 'santé', 'secteur public', 'sécurité publique', 
-    'sécurité routière', 'sécurité sociale', 'services', 'sociétés', 'sports', 'syndicats', 'système pénitentiaire', 'taxis', 
-    'télécommunications', 'tourisme et loisirs', 'traités et conventions', 'transports', 'transports aériens', 
-    'transports ferroviaires', 'transports par eau', 'transports routiers', 'transports urbains', 'travail', 'TVA', 
-    'Union européenne', 'urbanisme', 'ventes et échanges', 'voirie'
-    ]
-
-
-class QRANConfig(datasets.BuilderConfig):
-    """BuilderConfig for QR-AN."""
-
-    def __init__(self, **kwargs):
-        """BuilderConfig for QR-AN.
-        Args:
-          **kwargs: keyword arguments forwarded to super.
-        """
-        super(QRANConfig, self).__init__(**kwargs)
-
-
-class QRANDataset(datasets.GeneratorBasedBuilder):
-    """QR-AN Dataset: Topic dataset on french Parliament questions-answers."""
-    
-    _DOWNLOAD_URL = "https://huggingface.co/datasets/cassandra-themis/QR-AN/resolve/main/"
-    
-    _TRAIN_FILE = "train_data.txt"
-    _VAL_FILE = "val_data.txt"
-    _TEST_FILE = "test_data.txt"
-    _LABELS_DICT = {label: i for i, label in enumerate(_LABELS)}
-
-    BUILDER_CONFIGS = [
-        QRANConfig(
-            name="qran_answer",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A classification task of French Parliament questions-answers",
-        ),
-        QRANConfig(
-            name="qran_question",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A classification task of French Parliament questions-answers",
-        ),
-        QRANConfig(
-            name="qran_full",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A classification task of French Parliament questions-answers",
-        ),
-        QRANConfig(
-            name="qran_generation",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A generation task of French Parliament questions-answers",
-        )
-    ]
-
-    DEFAULT_CONFIG_NAME = "qran_answer"
-
-    def _info(self):
-        if self.config.name == "qran_generation":
-            features = {
-                    "question": datasets.Value("string"),
-                    "answer": datasets.Value("string"),
-                }
-        else:
-            features = {
-                    "text": datasets.Value("string"),
-                    "label": datasets.features.ClassLabel(names=_LABELS),
-                }
-                
-        return datasets.DatasetInfo(
-            description=_DESCRIPTION,
-            features=datasets.Features(features),
-            supervised_keys=None,
-            citation=_CITATION,
-        )
-        
-
-    def _split_generators(self, dl_manager):
-        train_path = dl_manager.download_and_extract(self._TRAIN_FILE)
-        val_path = dl_manager.download_and_extract(self._VAL_FILE)
-        test_path = dl_manager.download_and_extract(self._TEST_FILE)
-        
-        return [
-            datasets.SplitGenerator(
-                name=datasets.Split.TRAIN, gen_kwargs={"filepath": train_path}
-            ),
-            datasets.SplitGenerator(
-                name=datasets.Split.VALIDATION, gen_kwargs={"filepath": val_path}
-            ),
-            datasets.SplitGenerator(
-                name=datasets.Split.TEST, gen_kwargs={"filepath": test_path}
-            ),
-        ]
-    
-    def _generate_examples(self, filepath):
-        """Generate QRAN examples."""
-        with open(filepath, encoding="utf-8") as f:
-            for id_, row in enumerate(f):
-                data = json.loads(row)
-                answer, question = data["answer"], data["question"]
-
-                label = self._LABELS_DICT[data["label_name"]]
-
-                if self.config.name == "qran_generation":
-                    yield id_, {"question": question, "answer": answer}
-                else:
-                    if self.config.name == "qran_answer":
-                        text = answer
-                    elif self.config.name == "qran_question":
-                        text = question
-                    else:
-                        text = question + " " + answer
-                    yield id_, {"text": text, "label": label}
-                

README.md

@@ -1,45 +0,0 @@
----
-language:
-- fr
-size_categories: 10K<n<100K
-task_categories:
-- summarization
-- text-classification
-- text-generation
-task_ids:
-- multi-class-classification
-- topic-classification
-tags:
-- conditional-text-generation
----
-
-**QR-AN Dataset: a classification and generation dataset of french Parliament questions-answers.** 
-
-This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions . \
-
-It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k). \
-
-Can be used for generation with 'qran_generation'
-This dataset is compatible with the [`run_summarization.py`](https://github.com/huggingface/transformers/tree/master/examples/pytorch/summarization) script from Transformers if you add this line to the `summarization_name_mapping` variable:
-```python
-"ccdv/cass-summarization": ("question", "answer")
-```
-
-Compatible with [run_glue.py](https://github.com/huggingface/transformers/tree/master/examples/pytorch/text-classification) script:
-```
-export MODEL_NAME=camembert-base
-export MAX_SEQ_LENGTH=512
-
-python run_glue.py \
-  --model_name_or_path $MODEL_NAME \
-  --dataset_name cassandra-themis/QR-AN  \
-  --do_train \
-  --do_eval \
-  --max_seq_length $MAX_SEQ_LENGTH \
-  --per_device_train_batch_size 8 \
-  --gradient_accumulation_steps 4 \
-  --learning_rate 2e-5 \
-  --num_train_epochs 1 \
-  --max_eval_samples 500 \
-  --output_dir tmp/QR-AN
-```

val_data.txt → qran_answer/qr-an-test.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:8d22e95b90b05f3a14b02e5a429aa7a7f38a3997e8601b177a8f6b989c3663af
-size 46150814
+oid sha256:4089c5f2a8e38a1eabf35cd11066643d8402fd5055c3a0bef9cff598dc1b9f18
+size 14214480

test_data.txt → qran_answer/qr-an-train.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:2df2acf22defcd9b49ff17a19c229b7532151665ad88466dd9031684dd39a697
-size 46038010
+oid sha256:e1ee282faf373e8495201c748b59be29cdb6abaabca78ec0f5de1ad92ee99ebf
+size 90703991

train_data.txt → qran_answer/qr-an-validation.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:cbeb132d8c3f07b8b8100aa901ea0c11b000c512902317cefd465dc86d42c23d
-size 294128158
+oid sha256:ab294af5784d01be8550c0c3efdfed07432cf1d85895099700ecb3093472ccff
+size 14304454

qran_full/qr-an-test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6d384ea5f11a75642f261093362a99623401fc5f1342aea6cfe0539dbe13616a
+size 21190593

qran_full/qr-an-train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:acf148efd680257995613ea5e352769df455e990d15fb6ff1a2af6338fc685e8
+size 135403202

qran_full/qr-an-validation.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8956405a350d2c72e2c8566524d21fba05cf1ba94a89e385ebec008be6059592
+size 21325446

qran_generation/qr-an-test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5ffdb63cf096f9b2c27279b781818ba756aadcb59e73c08ad97497ee7142e445
+size 20497182

qran_generation/qr-an-train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:00abe706239626910a78fd4f36823dc46f2770c9f0153eb639e75a67c31a1743
+size 130854921

qran_generation/qr-an-validation.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:4d22f4de5f332ebdef9811192456a0ec58f32db33f7af5eb3bae30f5d32f0b9c
+size 20611843

qran_question/qr-an-test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:75e88641933e296761a0f316ae01a3ab34c790f27b0687a007c2385358917967
+size 6344863

qran_question/qr-an-train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e4013a7f7c7b4df3deca7a8c0486cc50fa0f3f6f11c6bff0d03585c5b9c07e2e
+size 40419746

qran_question/qr-an-validation.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:141eea5dede95e5c15bc2367c264dd5dd0885e2637e67ac87a90489d43575166
+size 6369382