Facebook官方发布的LLaMA模型禁止商用，并且官方没有正式开源模型权重（虽然网上已经有很多第三方的下载地址）。为了遵循相应的许可，目前暂时无法发布完整的模型权重，敬请各位理解（目前国外也是一样）。Facebook完全开放模型权重之后，本项目会及时更新相关策略。这里发布的是LoRA权重，可以理解为原LLaMA模型上的一个“补丁”，两者进行合并即可获得完整版权重。本次实验没有进行垂直领域预训练和精调，仅作信息抽取学术研究，尝试大模型在信息抽取方面的可能性，信息抽取在文本生成方面向来比较差，如果信息抽取效果比较好，说明对应的垂直领域对话和文本生成也不会很差。
提醒：
（1）以下中文LLaMA/Alpaca LoRA模型无法单独使用，需要搭配原版LLaMA模型[1]。请参考本项目给出的合并模型步骤重构模型。
（2）以下数据和模型等均来自互联网，如果需要商用请找对应的机构商业授权，本次实战经验旨在推动大模型学术研究，尊重原创，侵删。
中文LLaMA模型在原版的基础上扩充了中文词表，使用了中文纯文本数据进行二次预训练，具体见训练细节一节。
中文Alpaca模型在上述中文LLaMA模型的基础上进一步使用了指令数据进行精调，具体见训练细节一节。如希望体验类ChatGPT对话交互，请使用Alpaca模型，而不是LLaMA模型。
模型名称 类型 重构所需模型 大小[2] LoRA下载地址 SHA256[3] Chinese-Alpaca-7B 指令精调 原版LLaMA-7B[1] 790M [百度网盘] 可以在🤗Model Hub下载以上所有模型，并且使用transformers和PEFT调用中文LLaMA或Alpaca LoRA模型。以下模型调用名称指的是使用.from_pretrained()中指定的模型名称。
** [1]** 原版LLaMA模型需要去LLaMA项目申请使用或参考这个PR。因版权问题本项目无法提供下载链接。
** [2]** 经过重构后的模型大小比同等量级的原版LLaMA大一些（主要因为扩充了词表）。
** [3]** 下载后务必检查压缩包的SHA256是否一致，完整值请查看SHA256.md。
压缩包内文件目录如下（以Chinese-LLaMA-7B为例）：
chinese_llama_lora_7b/
- adapter_config.json # LoRA权重配置文件
- adapter_model.bin # LoRA权重文件
- special_tokens_map.json # special_tokens_map文件
- tokenizer_config.json # tokenizer配置文件
- tokenizer.model # tokenizer文件
以下是各原模型和4-bit量化后的大小，转换相应模型时确保本机有足够的内存和磁盘空间（最低要求）：
7B 13B 33B 65B 原模型大小（FP16） 13 GB 24 GB 60 GB 120 GB 量化后大小（4-bit） 3.9 GB 7.8 GB 19.5 GB 38.5 GB 为了将LoRA模型与原版LLaMA进行合并以便进行推理或继续训练，目前提供了两种方式：
在线转换：适合Google Colab用户，可利用notebook进行在线转换并量化模型
手动转换：适合离线方式转换，生成不同格式的模型，以便进行量化或进一步精调
省时妙招和注意事项：
（1）最好从huggingface上下载*decapoda-research/llama-7b-hf*，这个模型是转化后的，不需要用transformers进行转换，可以直接跳过step1.
在进行模型合并的时候，最好采用huggingface版本的方法merge_llama_with_chinese_lora_to_hf.py，因为这个模型方便后续用transformers方法进行加载。如果huggingface下载比较难受，你们一定感觉难受，可以参照7云盘下载。
（2）整个训练流程包括词表扩充、预训练和指令精调三部分。词表扩充的代码请参考merge_tokenizers.py。
链接：https://pan.baidu.com/s/1AQM5VVDEERkM75EJB-1gbw?pwd=xzqi 提取码：xzqi
7.2、合并后大模型下载，我也放在云盘上了，下载后直接搞微调 链接：https://pan.baidu.com/s/16seY6mBhDpT6KPJ120sJPg?pwd=qtnl 提取码：qtnl
训练集、验证集和测试集处理成处理成这个样子。例如"安装动作_安装&操作部件1_a柱左下部饰板"中''&''表示不同类别和抽取的名词，名词和类别之间用下划线隔开，符号支持自定义，不必照抄。instruction中名词类别部分可以换成你自己的。如果是对话和文本生成，效果应该好于信息抽取，我的数据集相对比较复杂，没有训练的人都不一定标对，哈哈哈。
[
{
"instruction": "你现在是一个命名实体识别模型，请你帮我抽取出命名实体识别类别为'安装动作','操作部件位置1','方位','目标部件位置1','操作程序选项','一般动作','操作部件位置2','目标部件2','物理量','目标部件位置2','量词','工作区域','拆卸动作','操作程序','目标部件1','操作部件2','操作部件1','一般工具'的二元组，二元组内部用'_'连接，二元组之间用'&'分割。",
"input": "安装a柱左下部饰板注1个夹子，2个导片；对齐2个前部锁片，然后将卡槽对齐线束支架，接着推动后部夹子，以固定到b柱下部；沿着饰板完全放置好密封条",
"output": "安装动作_安装&操作部件1_a柱左下部饰板"
},
{
"instruction": "你现在是一个命名实体识别模型，请你帮我抽取出命名实体识别类别为'安装动作','操作部件位置1','方位','目标部件位置1','操作程序选项','一般动作','操作部件位置2','目标部件2','物理量','目标部件位置2','量词','工作区域','拆卸动作','操作程序','目标部件1','操作部件2','操作部件1','一般工具'的二元组，二元组内部用'_'连接，二元组之间用'&'分割。",
"input": "要安装新的前备箱储物单元，请安装固定到此前备箱储物单元的加固夹。否则，如重复使用前备箱储物单元，请跳至下一步。",
"output": "安装动作_安装&操作部件1_前备箱储物单元&安装动作_安装&目标部件1_前备箱储物单元&操作部件1_加固夹"
},
{
"instruction": "你现在是一个命名实体识别模型，请你帮我抽取出命名实体识别类别为'安装动作','操作部件位置1','方位','目标部件位置1','操作程序选项','一般动作','操作部件位置2','目标部件2','物理量','目标部件位置2','量词','工作区域','拆卸动作','操作程序','目标部件1','操作部件2','操作部件1','一般工具'的二元组，二元组内部用'_'连接，二元组之间用'&'分割。",
"input": "拆下将腰部支撑底部固定到座椅靠背框架的螺栓。5nm注此螺栓位于腰部电子控制单元的下部。拆下此螺栓有助于方便地完成以下步骤。提示：推荐使用以下工具：10毫米套筒2英寸加长件棘轮/扭矩扳手",
"output": "拆卸动作_拆下&操作部件1_螺栓"
}
]
nohup python finetune.py \
--base_model './alpaca_combined_hf'\
--data_path './data/enoch_fine_tune_train.json'\
--output_dir './output'\ # 存放lora后的模型
python inference_hf.py \
--lora_model ’./output‘ \ # lora 微调后的模型
--base_model ‘./alpaca_combined_hf’ \ # 合成后的大模型
--data_file ’./data/enoch_fine_tune_dev.json‘ \
--tokenizer_path ’./scripts/merged_tokenizer_hf‘ \# 词表扩充后的目录
metrics.py评价函数，这个函数没有写入到训练验证 过程中，后续有时间在研究如果嵌入到训练和验证部分中去。目前直接用test.py直接加载预测后的结果进行计算得知。
import jieba
import json
from nltk.translate.bleu_score import sentence_bleu, SmoothingFunction
from rouge_chinese import Rouge
import numpy as np
rouge = Rouge()
def compute_metrics(decoded_preds, decoded_labels):
score_dict = {
"rouge-1": [],
"rouge-2": [],
"rouge-l": [],
"bleu-4": []
}
for pred, label in zip(decoded_preds, decoded_labels):
try:
if pred:
hypothesis = list(jieba.cut(str(pred)))
if len(hypothesis) == 0:
hypothesis = ['*****']
else:
hypothesis = ['*****']
if label:
reference = list(jieba.cut(str(label)))
if len(reference) == 0:
reference = ['*****']
else:
reference = ['*****']
scores = rouge.get_scores(' '.join(hypothesis), ' '.join(reference))
result = scores[0]
for k, v in result.items():
score_dict[k].append(round(v["f"] * 100, 4))
bleu_score = sentence_bleu([list(label)], list(pred), smoothing_function=SmoothingFunction().method3)
score_dict["bleu-4"].append(round(bleu_score * 100, 4))
except Exception as e:
print(e)
print(pred)
print(label)
for k, v in score_dict.items():
score_dict[k] = float(np.mean(v))
return score_dict
import json
from metrics import compute_metrics
ori_list,gen_list = [],[]
with open("/root/autodl-fs/chatglm_finetune/output_dir_pt_20/global_step-300/ft_pt_answer.json", 'r') as f:
examples = json.loads(f.read())
for example in examples:
ori_list.append(example['ori_answer'])
gen_list.append(example['gen_answer'])
score_dict = compute_metrics(ori_list,gen_list)
print(json.dumps(score_dict,ensure_ascii=False,indent=4))
#信息抽取ner实验结果
{
"rouge-1": 82.39628086419752,
"rouge-2": 77.22564362139917,
"rouge-l": 78.75492695473251,
"bleu-4": 72.21810946502058
}
本项目中的模型主要支持以下四种推理和部署方式：
相关文档已移至本项目 >>> 📚 GitHub Wiki
虽然本项目中的模型相比原版LLaMA和Alpaca在中文理解和生成能力上得到显著提升，但也存在以下局限性：
如果您觉得本项目对您的研究有所帮助或使用了本项目的代码或数据，请参考引用本项目的技术报告：https://arxiv.org/abs/2304.08177
@article{chinese-llama-alpaca,
title={Efficient and Effective Text Encoding for Chinese LLaMA and Alpaca},
author={Cui, Yiming and Yang, Ziqing and Yao, Xin},
journal={arXiv preprint arXiv:2304.08177},
url={https://arxiv.org/abs/2304.08177},
year={2023}
}
本项目基于以下开源项目三次开发，在此对相关项目和研究开发人员表示感谢。
Episode: Logo中的小羊驼是由midjourney自动生成，并由Mac自带的预览工具自动抠出来的。
本项目相关资源仅供学术研究之用，严禁用于商业用途。 使用涉及第三方代码的部分时，请严格遵循相应的开源协议。模型生成的内容受模型计算、随机性和量化精度损失等因素影响，本项目不对其准确性作出保证。对于模型输出的任何内容，本项目不承担任何法律责任，亦不对因使用相关资源和输出结果而可能产生的任何损失承担责任。
本项目由个人及协作者业余时间发起并维护，因此无法保证能及时回复解决相应问题。支持和尊重原创，侵删。
如有问题，请在https://github.com/ymcui/Chinese-LLaMA-Alpaca GitHub Issue中提交。
RetroSearch is an open source project built by @garambo | Open a GitHub Issue
Search and Browse the WWW like it's 1997 | Search results from DuckDuckGo
HTML:
3.2
| Encoding:
UTF-8
| Version:
0.7.4