INIT: init

PretrainCorpusDemo.py

@@ -0,0 +1,110 @@
+# coding=utf-8
+# Copyright 2020 The HuggingFace Datasets Authors and the current dataset script contributor.
+#
+# Licensed under the Apache License, Version 2.0 (the "License");
+# you may not use this file except in compliance with the License.
+# You may obtain a copy of the License at
+#
+#     http://www.apache.org/licenses/LICENSE-2.0
+#
+# Unless required by applicable law or agreed to in writing, software
+# distributed under the License is distributed on an "AS IS" BASIS,
+# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
+# See the License for the specific language governing permissions and
+# limitations under the License.
+"""Demo for pretrain"""
+
+
+import os
+import json
+import datasets
+
+
+_CITATION = """\
+"""
+
+_DESCRIPTION = """\
+"""
+
+_LICENSE = "apache-license-2.0"
+_HOMEPAGE = "https://github.com/IDEA-CCNL/Fengshenbang-LM"
+
+
+class Config(datasets.BuilderConfig):
+    """BuilderConfig for Demo"""
+
+    def __init__(self, **kwargs):
+        super().__init__(**kwargs)
+        """
+        Args:
+            **kwargs: keyword arguments forwarded to super.
+        """
+
+
+class PretrainCorpusDemo(datasets.GeneratorBasedBuilder):
+
+    VERSION = datasets.Version("1.0.0")
+
+    BUILDER_CONFIG_CLASS = Config
+    BUILDER_CONFIGS = [
+        Config(description=_DESCRIPTION)
+    ]
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features({
+                "text": datasets.Value("string"),
+            }),
+            homepage=_HOMEPAGE,
+            citation=_CITATION,
+            license=_LICENSE
+        )
+
+    def _split_generators(self, dl_manager):
+
+        files = {
+            "test": os.path.join("data", f"train.json"),
+            "validation": os.path.join("data", f"train.json"),
+            "train": os.path.join("data", f"train.json"),
+        }
+        data_dir = dl_manager.download_and_extract(files)
+
+        output = []
+        test = datasets.SplitGenerator(
+            name=datasets.Split.TEST,
+            gen_kwargs={
+                "filepath": data_dir["test"]
+            }
+        )
+        output.append(test)
+
+        # if os.path.exists(data_dir["validation"]):
+        valid = datasets.SplitGenerator(
+            name=datasets.Split.VALIDATION,
+            gen_kwargs={
+                "filepath": data_dir["validation"]
+            }
+        )
+        output.append(valid)
+
+        train = datasets.SplitGenerator(
+            name=datasets.Split.TRAIN,
+            gen_kwargs={
+                "filepath": data_dir["train"]
+            }
+        )
+        output.append(train)
+
+        return output
+
+    def _generate_examples(self, filepath):
+        """Yields examples."""
+        with open(filepath, encoding="utf-8") as f:
+            lines = f.readlines()
+            for id_, line in enumerate(lines):
+                data = json.loads(line)
+                s = {
+                    'text': data['text'],
+                }
+                yield id_, s

README.md

@@ -1,3 +1,5 @@
 ---
 license: apache-2.0
 ---
+
+Only use for Demo

data/train.json

@@ -0,0 +1,10 @@
+{"text": "粤港澳大湾区数字经济研究院（International Digital Economy Academy 简称“IDEA”）是一家面向人工智能（Artificial Intelligence,简称“AI”）、数字经济产业和前沿科技的国际化创新型研究机构，坐落于深圳市深港科技创新合作区内。"}
+{"text": "IDEA正与MSR、Google Brain、DeepMind、OpenAI等同行者一起推动人类AI技术前沿的发展。IDEA的使命是立足社会需求，研发颠覆式创新技术并回馈社会，让更多的人从数字经济发展中获益。IDEA秉承共享共赢共生的开源开放精神，积极营造自由而富有激情的创新工作环境，聚集全世界最聪慧的大脑一起创造人类社会最需要的价值。我们坚持科技擎天，产业立地，相信最好的研究从需求中来，到需求中去，最终惠及广大企业和受众。"}
+{"text": "IDEA目前已聚集一批包括院士、世界著名大学教授、世界知名开源系统发明人在内的国际一流技术专家，致力于在AI基础技术与开源系统、人工智能金融科技、区块链技术与机密计算、企业级AI系统、产业智能物联网与智能机器人等领域研发国际顶尖成果，并培育一批国际领先科技企业，带动深圳乃至大湾区万亿级数字经济产业发展。"}
+{"text": "2021年11月22日，IDEA研究院创院理事长沈向洋在IDEA大会上正式宣布启动 “封神榜”大模型开源计划。目前，我们已经开源了6个系列共10个模型，包含4种模型结构，模型参数最大达到35亿。"}
+{"text": "二郎神系列：以Encoder结构为主的双向语言系列模型，专注于解决各种自然语言理解任务。本系列中13亿参数的“Erlangshen-MegatronBert-1.3B”大模型，是目前中文领域内最大的开源Bert大模型。2021年11月及2022年1月，“二郎神”在中文语言理解权威评测基准FewCLUE  在新窗口查看和ZeroCLUE 在新窗口查看双料榜单上登顶，2022年3月在Hugging Face的单月下载量突破1k。同时IDEA研究院CCNL也开源了解决长文本分类任务的“Erlangshen-Longformer-110M”和“Erlangshen-Longformer-330M”。"}
+{"text": "周文王系列：是IDEA研究院与追一科技联合开发的一系列新结构大模型。目前开源的13亿参数“Zhouwenwang-Unified-1.3B”大模型，是中文领域内可同时做LM和MLM任务的最大模型。"}
+{"text": "余元系列：本系列模型主要面向医疗领域。拥有35亿参数的“Yuyuan-GPT2-3.5B”大模型，对英文医疗事实判断准确率接近90%。由 “Yuyuan-GPT2-3.5B”微调而来的问答模型“YuyuanQA-GPT2-3.5B”，在100个英文医疗问答任务上的Bleu值达到了0.35。"}
+{"text": "闻仲系列：以Decoder结构为主的单向语言模型，是一系列强大的生成模型，目前开源了35亿参数的“Wenzhong-GPT2-3.5B”大模型。"}
+{"text": "燃灯系列：本系列是以Transformer结构为主的编解码语言模型，主要解决通用任务，目前开源了7.7亿参数的“Randeng-MegatronT5-770M”大模型。"}
+{"text": "比干系列：本系列主要面向各种纠错任务，目前开源了11亿参数的“Bigan-Transformer-XL-denoise-1.1B”大模型。"}