未经数据审查的大语言模型CausalLM 7B整合包,同时支持CPU、GPU!
本模型是基于Qwen的预训练模型权重进行的二次训练。需要注意的是,Qwen模型的训练数据来自于未经过滤的互联网信息,这意味着模型中可能包含不当内容,比如色情、暴力或具有攻击性的语言。我们由于资源限制,无法对所有训练数据进行彻底的审查和筛选。
因此,在使用模型时,用户仍需自行负责检查模型的输出安全性,并过滤掉不适当的关键词。当前,我们也面临着计算资源的限制,这导致我们无法对模型应用强化学习的人工干预(RLHF),同样,也无法进行特定的限制性微调(SFT),以使模型拒绝回答某些问题。
模型结构示意图
为了降低使用难度,学术Fun将相关工具打包成一键启动包,用户可以通过简单的点击来启动使用,无需繁琐的Python环境配置。这大大减少了潜在的配置问题。一键启动包的下载地址如下:
系统配置要求
在下载和使用一键启动包之前,请确保您的计算机满足以下配置要求:
操作系统:Windows 10/11 64位
内存/显存:至少8GB
使用教程
解压下载的压缩包
注意避免解压到包含中文路径的文件夹。解压后,您将看到以下文件:
解压后的文件
.gguf 文件:模型文件
.exe 文件:分别对应CPU和GPU的运行文件
运行模型
以GPU版本为例,双击对应的.exe文件。打开后,会看到如下界面:
启动界面
在该界面中,点击launch按钮启动程序。
选择模型文件
在弹出的窗口中,选择之前提到的.gguf模型文件。
选择模型文件
开始使用
选择模型文件后,软件界面将在浏览器中自动打开。
软件界面
领取专属 10元无门槛券
私享最新 技术干货