Datasets:

YeungNLP
/

firefly-pretrain-dataset

	# Firefly中文Llama2增量预训练数据

	<img src="pics/firefly_logo.png" width="250">

	欢迎加入Firefly大模型技术交流群，关注我们的公众号。

	<img src="pics/gongzhonghao.png" width="300">

	## 数据简介
	技术文章：[QLoRA增量预训练与指令微调，及汉化Llama2的实践](https://mp.weixin.qq.com/s/26-Qxma9M2wGoTQgOlKRmQ)

	该数据应为[Firefly-LLaMA2-Chinese项目](https://github.com/yangjianxin1/Firefly-LLaMA2-Chinese)的增量预训练数据，一共约22GB文本，主要包含CLUE、ThucNews、CNews、COIG、维基百科等开源数据集，以及我们收集的古诗词、散文、文言文等，数据分布如下图。

	<img src="pics/pretrain-data.png" width="450">


	## 模型列表 & 数据列表
	我们开源了7B和13B的Base与Chat模型。Base模型是基于LLaMA2扩充中文词表后增量预训练得到的模型，Chat模型是在Base模型的基础上进行多轮对话指令微调。

	为了探究基座模型对指令微调的影响，我们也微调了baichuan2-base模型，获得firefly-baichuan2-13b，具有不错的效果。更多中文微调，可查看[Firefly项目](https://github.com/yangjianxin1/Firefly)。

	\| 模型 \| 类型 \| 训练任务 \| 训练长度 \|
	\|-----------------------------------------------------------------------------------------------\|------\|--------\|------\|
	\| 🤗[Firefly-LLaMA2-7B-Base](https://huggingface.co/YeungNLP/firefly-llama2-7b-base) \| 基座模型 \| CLM \| 1024 \|
	\| 🤗[Firefly-LLaMA2-13B-Base](https://huggingface.co/YeungNLP/firefly-llama2-13b-base) \| 基座模型 \| CLM \| 1024 \|
	\| 🤗[Firefly-LLaMA2-7B-Chat](https://huggingface.co/YeungNLP/firefly-llama2-7b-chat) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-LLaMA2-13B-Chat](https://huggingface.co/YeungNLP/firefly-llama2-13b-chat) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-Baichuan2-13B](https://huggingface.co/YeungNLP/firefly-baichuan2-13b) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-LLaMA2-7B-Chat-QLoRA](https://huggingface.co/YeungNLP/firefly-llama2-7b-chat-qlora) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-LLaMA2-13B-Chat-QLoRA](https://huggingface.co/YeungNLP/firefly-llama2-13b-chat-qlora) \| 指令模型 \| 多轮指令微调 \| 1024 \|


	## 模型评测
	我们在CMMLU和Open LLM Leaderboard上分别对模型的中文和英文能力进行了客观评测，并且在我们构建的人工评测集上进行了人工评测。
	Open LLM Leaderboard和CMMLU榜单倾向于评测大模型的做题能力，不够全面，所以我们进一步进行了人工评测。

	### Open LLM Leaderboard

	\| 模型 \| Average \| ARC \| HellaSwag \| MMLU \| TruthfulQA \|
	\|-----------------------------\|-----------\|-------\|-----------\|-------\|------------\|
	\| chinese-alpaca-2-13b \| 60.94 \| 58.7 \| 79.74 \| 55.1 \| 50.22 \|
	\| openbuddy-llama2-13b-v8.1 \| 60.47 \| 55.97 \| 79.79 \| 54.95 \| 51.16 \|
	\| flagalpha-llama2-13b-chat \| 60.41 \| 55.97 \| 82.05 \| 54.74 \| 48.9 \|
	\| llama-2-13b-chat \| 59.93 \| 59.04 \| 81.94 \| 54.64 \| 44.12 \|
	\| vicuna-13b-v1.1 \| 59.22 \| 52.73 \| 80.13 \| 51.94 \| 52.08 \|
	\| guanaco-13b \| 59.18 \| 57.85 \| 83.84 \| 48.28 \| 46.73 \|
	\| firefly-llama2-13b-chat \| 59.05 \| 57.51 \| 77.94 \| 52.56 \| 48.18 \|
	\| llama-2-7b-chat \| 56.34 \| 52.9 \| 78.55 \| 48.32 \| 45.57 \|
	\| flagalpha-llama2-7b-chat \| 56.13 \| 52.39 \| 77.52 \| 47.72 \| 46.87 \|
	\| yayi-7b-llama2 \| 54.45 \| 55.03 \| 77.84 \| 40.92 \| 44.02 \|
	\| chinese-alpaca-2-7b \| 54.33 \| 49.57 \| 72.62 \| 46.5 \| 48.63 \|
	\| firefly-llama2-7b-chat \| 54.19 \| 51.19 \| 73.32 \| 45.47 \| 46.78 \|
	\| yayi-13b-llama2 \| 51.06 \| 48.55 \| 74.82 \| 38.68 \| 42.19 \|
	\| linly-llama2-7b \| 49.06 \| 48.04 \| 73.25 \| 35.04 \| 39.92 \|
	\| linly-llama2-13b \| 38.22 \| 33.62 \| 39.59 \| 33.97 \| 45.71 \|
	\| ziya-llama-13b* \| - \| - \| 76.9 \| 50.3 \| - \|

	*表示分数来源于OpenCompass官方，而非Open LLM Leaderboard官方数据

	Conclusion：我们的模型保留了llama2模型优秀的英文能力，在Open LLM Leaderboard上，与llama2-chat、vicuna-v1.1、guanaco等模型的表现及其接近。



	### CMMLU榜单

	\| 模型 \| CMMLU \| 训练细节 \|
	\|-----------------------------\|-----------\|------------------------\|
	\| firefly-baichuan2-13b \| 56.83 \| 4\*V100，QLoRA，指令微调 \|
	\| chinese-alpaca-2-13b \| 45.17 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| openbuddy-llama2-13b-v8.1 \| 41.66 \| 全量参数训练，词表扩充 + 指令微调 \|
	\| chinese-alpaca-2-7b \| 40.86 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| ziya-llama-13b* \| 39.9 \| 160\*A100，全量参数训练，词表扩充 + 增量预训练 + 指令微调 + RLHF \|
	\| chinese-alpaca-plus-13b* \| 39.9 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| firefly-llama2-13b-chat \| 39.47 \| 4\*V100，QLoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| flagalpha-llama2-13b-chat \| 39.20 \| LoRA，指令微调 \|
	\| llama-2-13b-chat \| 38.65 \| 全量参数训练，预训练 + 指令微调 + RLHF(全流程为英文) \|
	\| firefly-llama2-7b-chat \| 34.03 \| 4\*V100，QLoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| llama-2-7b-chat \| 33.76 \| 全量参数训练，预训练 + 指令微调 + RLHF(全流程为英文) \|
	\| flagalpha-llama2-7b-chat \| 32.61 \| LoRA，指令微调 \|
	\| chinese-alpaca-plus-7b* \| 32.6 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| yayi-13b-llama2 \| 30.73 \| 指令微调 \|
	\| yayi-7b-llama2 \| 30.47 \| 指令微调 \|
	\| linly-llama2-7b \| 28.68 \| 32\*A100，全量参数训练，词表扩充 + 混合训练 \|
	\| linly-llama2-13b \| 26.32 \| 32\*A100，全量参数训练，词表扩充 + 混合训练 \|

	我们统一采用OpenCompass工具来离线评测CMMLU，其中*表示结果来源于OpenCompass官方榜单或者由模型作者自测的分数。

	Conclusions:
	- 与llama-2-chat相比，我们的模型在中文方面的能力具有一定的提升。
	- 对于中文词表扩充模型而言，我们的模型大幅领先全量训练的linly，与全量训练的ziya、chinese-alpaca-1及其接近。
	- firefly-baichuan2-13b一骑绝尘，并且在OpenCompass的CMMLU榜单，该分数可排第8，小幅落后于百川官方模型，进一步验证了基座模型的重要性。
	- 我们的模型在CMMLU上的指标与chinese-alpaca-2也存在一定的差距。这一现象很大程度与增量预训练数据量和数据分布相关，我们的增量预训练数据仅为22GB(未充分使用，详情见训练细节)，增量预训练不够充分，且大部分为新闻语料，对于CMMLU能力的提升有限。

	### 人工评测

	我们构建了评测集，其中包含13种评测任务，评测数据详见data/firefly-eval.xlsx。大部分数据从[Belle数据](https://huggingface.co/datasets/BELLE-2/train_3.5M_CN_With_Category)中进行采样和优化。
	每种任务包含10条数据，一共130条数据。13种任务包含：头脑风暴、分类、Close QA、代码生成、
	信息抽取、开放式生成、有害性检验、数学题、阅读理解、Open QA、Rewrite、Summarization、翻译。

	评测标准如下：
	- 对于同一道题目，对两两模型的生成结果进行比较，存在胜负平三种关系。
	- 对于客观题，如果两个模型均回答正确，或均回答错误，则为平局。
	- 对于主观题，回答更加详细、真实、细节更丰富，则为获胜。当两者内容正确，并且详细程度非常接近时，或者各有千秋时，可视为平局。
	- 对于中文题目，如果目标回复为中文，但模型却回复英文，则判为错误。

	详细的评测结果可参考：[人工评测结果](https://docs.qq.com/sheet/DU1h1bE1xWG50ZVlI?tab=BB08J2)。在评测中，我们遵守设定的评测标准，但依旧难以完全避免主观因素的影响，
	本着公开透明的原则，我们公开了评测细节，大家可比较模型效果。


	同为基于LLaMA2进行汉化的模型，我们对Firefly-LLaMA2-13B-Chat和Linly-LLaMA2-13B进行了人工测评，从评测结果来看，我们的模型存在非常大的优势。
	并且我们与Llama2-Chat-13B也进行了人工评测，也存在非常大的优势。

	\| 模型 \| 获胜 \| 平局 \| 失败 \|
	\|---------------------------------------------\|------\|------------\|----------\|
	\| Firefly-LLaMA2-13B-Chat VS Linly-LLaMA2-13B \| 43(33.08%) \| 79(60.77%) \| 8(6.15%) \|
	\| Firefly-LLaMA2-13B-Chat VS Llama2-Chat-13B \| 86(66.15%) \| 40(30.77%) \| 4(3.08%) \|

	# Firefly中文Llama2增量预训练数据

	<img src="pics/firefly_logo.png" width="250">

	欢迎加入Firefly大模型技术交流群，关注我们的公众号。

	<img src="pics/gongzhonghao.png" width="300">

	## 数据简介
	技术文章：[QLoRA增量预训练与指令微调，及汉化Llama2的实践](https://mp.weixin.qq.com/s/26-Qxma9M2wGoTQgOlKRmQ)

	该数据应为[Firefly-LLaMA2-Chinese项目](https://github.com/yangjianxin1/Firefly-LLaMA2-Chinese)的增量预训练数据，一共约22GB文本，主要包含CLUE、ThucNews、CNews、COIG、维基百科等开源数据集，以及我们收集的古诗词、散文、文言文等，数据分布如下图。

	<img src="pics/pretrain-data.png" width="450">


	## 模型列表 & 数据列表
	我们开源了7B和13B的Base与Chat模型。Base模型是基于LLaMA2扩充中文词表后增量预训练得到的模型，Chat模型是在Base模型的基础上进行多轮对话指令微调。

	为了探究基座模型对指令微调的影响，我们也微调了baichuan2-base模型，获得firefly-baichuan2-13b，具有不错的效果。更多中文微调，可查看[Firefly项目](https://github.com/yangjianxin1/Firefly)。

	\| 模型 \| 类型 \| 训练任务 \| 训练长度 \|
	\|-----------------------------------------------------------------------------------------------\|------\|--------\|------\|
	\| 🤗[Firefly-LLaMA2-7B-Base](https://huggingface.co/YeungNLP/firefly-llama2-7b-base) \| 基座模型 \| CLM \| 1024 \|
	\| 🤗[Firefly-LLaMA2-13B-Base](https://huggingface.co/YeungNLP/firefly-llama2-13b-base) \| 基座模型 \| CLM \| 1024 \|
	\| 🤗[Firefly-LLaMA2-7B-Chat](https://huggingface.co/YeungNLP/firefly-llama2-7b-chat) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-LLaMA2-13B-Chat](https://huggingface.co/YeungNLP/firefly-llama2-13b-chat) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-Baichuan2-13B](https://huggingface.co/YeungNLP/firefly-baichuan2-13b) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-LLaMA2-7B-Chat-QLoRA](https://huggingface.co/YeungNLP/firefly-llama2-7b-chat-qlora) \| 指令模型 \| 多轮指令微调 \| 1024 \|
	\| 🤗[Firefly-LLaMA2-13B-Chat-QLoRA](https://huggingface.co/YeungNLP/firefly-llama2-13b-chat-qlora) \| 指令模型 \| 多轮指令微调 \| 1024 \|


	## 模型评测
	我们在CMMLU和Open LLM Leaderboard上分别对模型的中文和英文能力进行了客观评测，并且在我们构建的人工评测集上进行了人工评测。
	Open LLM Leaderboard和CMMLU榜单倾向于评测大模型的做题能力，不够全面，所以我们进一步进行了人工评测。

	### Open LLM Leaderboard

	\| 模型 \| Average \| ARC \| HellaSwag \| MMLU \| TruthfulQA \|
	\|-----------------------------\|-----------\|-------\|-----------\|-------\|------------\|
	\| chinese-alpaca-2-13b \| 60.94 \| 58.7 \| 79.74 \| 55.1 \| 50.22 \|
	\| openbuddy-llama2-13b-v8.1 \| 60.47 \| 55.97 \| 79.79 \| 54.95 \| 51.16 \|
	\| flagalpha-llama2-13b-chat \| 60.41 \| 55.97 \| 82.05 \| 54.74 \| 48.9 \|
	\| llama-2-13b-chat \| 59.93 \| 59.04 \| 81.94 \| 54.64 \| 44.12 \|
	\| vicuna-13b-v1.1 \| 59.22 \| 52.73 \| 80.13 \| 51.94 \| 52.08 \|
	\| guanaco-13b \| 59.18 \| 57.85 \| 83.84 \| 48.28 \| 46.73 \|
	\| firefly-llama2-13b-chat \| 59.05 \| 57.51 \| 77.94 \| 52.56 \| 48.18 \|
	\| llama-2-7b-chat \| 56.34 \| 52.9 \| 78.55 \| 48.32 \| 45.57 \|
	\| flagalpha-llama2-7b-chat \| 56.13 \| 52.39 \| 77.52 \| 47.72 \| 46.87 \|
	\| yayi-7b-llama2 \| 54.45 \| 55.03 \| 77.84 \| 40.92 \| 44.02 \|
	\| chinese-alpaca-2-7b \| 54.33 \| 49.57 \| 72.62 \| 46.5 \| 48.63 \|
	\| firefly-llama2-7b-chat \| 54.19 \| 51.19 \| 73.32 \| 45.47 \| 46.78 \|
	\| yayi-13b-llama2 \| 51.06 \| 48.55 \| 74.82 \| 38.68 \| 42.19 \|
	\| linly-llama2-7b \| 49.06 \| 48.04 \| 73.25 \| 35.04 \| 39.92 \|
	\| linly-llama2-13b \| 38.22 \| 33.62 \| 39.59 \| 33.97 \| 45.71 \|
	\| ziya-llama-13b* \| - \| - \| 76.9 \| 50.3 \| - \|

	*表示分数来源于OpenCompass官方，而非Open LLM Leaderboard官方数据

	Conclusion：我们的模型保留了llama2模型优秀的英文能力，在Open LLM Leaderboard上，与llama2-chat、vicuna-v1.1、guanaco等模型的表现及其接近。



	### CMMLU榜单

	\| 模型 \| CMMLU \| 训练细节 \|
	\|-----------------------------\|-----------\|------------------------\|
	\| firefly-baichuan2-13b \| 56.83 \| 4\*V100，QLoRA，指令微调 \|
	\| chinese-alpaca-2-13b \| 45.17 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| openbuddy-llama2-13b-v8.1 \| 41.66 \| 全量参数训练，词表扩充 + 指令微调 \|
	\| chinese-alpaca-2-7b \| 40.86 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| ziya-llama-13b* \| 39.9 \| 160\*A100，全量参数训练，词表扩充 + 增量预训练 + 指令微调 + RLHF \|
	\| chinese-alpaca-plus-13b* \| 39.9 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| firefly-llama2-13b-chat \| 39.47 \| 4\*V100，QLoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| flagalpha-llama2-13b-chat \| 39.20 \| LoRA，指令微调 \|
	\| llama-2-13b-chat \| 38.65 \| 全量参数训练，预训练 + 指令微调 + RLHF(全流程为英文) \|
	\| firefly-llama2-7b-chat \| 34.03 \| 4\*V100，QLoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| llama-2-7b-chat \| 33.76 \| 全量参数训练，预训练 + 指令微调 + RLHF(全流程为英文) \|
	\| flagalpha-llama2-7b-chat \| 32.61 \| LoRA，指令微调 \|
	\| chinese-alpaca-plus-7b* \| 32.6 \| 48\*A40，LoRA，词表扩充 + 增量预训练 + 指令微调 \|
	\| yayi-13b-llama2 \| 30.73 \| 指令微调 \|
	\| yayi-7b-llama2 \| 30.47 \| 指令微调 \|
	\| linly-llama2-7b \| 28.68 \| 32\*A100，全量参数训练，词表扩充 + 混合训练 \|
	\| linly-llama2-13b \| 26.32 \| 32\*A100，全量参数训练，词表扩充 + 混合训练 \|

	我们统一采用OpenCompass工具来离线评测CMMLU，其中*表示结果来源于OpenCompass官方榜单或者由模型作者自测的分数。

	Conclusions:
	- 与llama-2-chat相比，我们的模型在中文方面的能力具有一定的提升。
	- 对于中文词表扩充模型而言，我们的模型大幅领先全量训练的linly，与全量训练的ziya、chinese-alpaca-1及其接近。
	- firefly-baichuan2-13b一骑绝尘，并且在OpenCompass的CMMLU榜单，该分数可排第8，小幅落后于百川官方模型，进一步验证了基座模型的重要性。
	- 我们的模型在CMMLU上的指标与chinese-alpaca-2也存在一定的差距。这一现象很大程度与增量预训练数据量和数据分布相关，我们的增量预训练数据仅为22GB(未充分使用，详情见训练细节)，增量预训练不够充分，且大部分为新闻语料，对于CMMLU能力的提升有限。

	### 人工评测

	我们构建了评测集，其中包含13种评测任务，评测数据详见data/firefly-eval.xlsx。大部分数据从[Belle数据](https://huggingface.co/datasets/BELLE-2/train_3.5M_CN_With_Category)中进行采样和优化。
	每种任务包含10条数据，一共130条数据。13种任务包含：头脑风暴、分类、Close QA、代码生成、
	信息抽取、开放式生成、有害性检验、数学题、阅读理解、Open QA、Rewrite、Summarization、翻译。

	评测标准如下：
	- 对于同一道题目，对两两模型的生成结果进行比较，存在胜负平三种关系。
	- 对于客观题，如果两个模型均回答正确，或均回答错误，则为平局。
	- 对于主观题，回答更加详细、真实、细节更丰富，则为获胜。当两者内容正确，并且详细程度非常接近时，或者各有千秋时，可视为平局。
	- 对于中文题目，如果目标回复为中文，但模型却回复英文，则判为错误。

	详细的评测结果可参考：[人工评测结果](https://docs.qq.com/sheet/DU1h1bE1xWG50ZVlI?tab=BB08J2)。在评测中，我们遵守设定的评测标准，但依旧难以完全避免主观因素的影响，
	本着公开透明的原则，我们公开了评测细节，大家可比较模型效果。


	同为基于LLaMA2进行汉化的模型，我们对Firefly-LLaMA2-13B-Chat和Linly-LLaMA2-13B进行了人工测评，从评测结果来看，我们的模型存在非常大的优势。
	并且我们与Llama2-Chat-13B也进行了人工评测，也存在非常大的优势。

	\| 模型 \| 获胜 \| 平局 \| 失败 \|
	\|---------------------------------------------\|------\|------------\|----------\|
	\| Firefly-LLaMA2-13B-Chat VS Linly-LLaMA2-13B \| 43(33.08%) \| 79(60.77%) \| 8(6.15%) \|
	\| Firefly-LLaMA2-13B-Chat VS Llama2-Chat-13B \| 86(66.15%) \| 40(30.77%) \| 4(3.08%) \|