首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

未经数据审查的大语言模型CausalLM 7B整合包,同时支持CPU、GPU!

未经数据审查的大语言模型CausalLM 7B整合包,同时支持CPU、GPU!

本模型是基于Qwen的预训练模型权重进行的二次训练。需要注意的是,Qwen模型的训练数据来自于未经过滤的互联网信息,这意味着模型中可能包含不当内容,比如色情、暴力或具有攻击性的语言。我们由于资源限制,无法对所有训练数据进行彻底的审查和筛选。

因此,在使用模型时,用户仍需自行负责检查模型的输出安全性,并过滤掉不适当的关键词。当前,我们也面临着计算资源的限制,这导致我们无法对模型应用强化学习的人工干预(RLHF),同样,也无法进行特定的限制性微调(SFT),以使模型拒绝回答某些问题。

模型结构示意图

为了降低使用难度,学术Fun将相关工具打包成一键启动包,用户可以通过简单的点击来启动使用,无需繁琐的Python环境配置。这大大减少了潜在的配置问题。一键启动包的下载地址如下:

系统配置要求

在下载和使用一键启动包之前,请确保您的计算机满足以下配置要求:

操作系统:Windows 10/11 64位

内存/显存:至少8GB

使用教程

解压下载的压缩包

注意避免解压到包含中文路径的文件夹。解压后,您将看到以下文件:

解压后的文件

.gguf 文件:模型文件

.exe 文件:分别对应CPU和GPU的运行文件

运行模型

以GPU版本为例,双击对应的.exe文件。打开后,会看到如下界面:

启动界面

在该界面中,点击launch按钮启动程序。

选择模型文件

在弹出的窗口中,选择之前提到的.gguf模型文件。

选择模型文件

开始使用

选择模型文件后,软件界面将在浏览器中自动打开。

软件界面

  • 发表于:
  • 原文链接https://page.om.qq.com/page/ORS3irUYBCymHSEx_hbK4nvQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券