8G显存本地运行最强开源中文大语言模型百川2整合包！

8G显存本地运行最强开源中文大语言模型百川2整合包！

模型介绍（Introduction）

Baichuan 2 是百川智能推出的新一代开源大语言模型，采用 2.6 万亿 Tokens 的高质量语料训练。

Baichuan 2 在多个权威的中文、英文和多语言的通用、领域 benchmark 上取得同尺寸最佳的效果。

本次发布包含有 7B、13B 的 Base 和 Chat 版本，并提供了 Chat 版本的 4bits 量化。

所有版本对学术研究完全开放。同时，开发者通过邮件申请并获得官方商用许可后，即可免费商用

BaiChuan2处于开源模型最好水平，Baichuan 2-7B-Base和Baichuan 2-13B-Base在MMLU、CMMLU、GSM8K等评估榜单上均分别取得同尺寸开源模型最优异的效果；其中Baichuan 2-7B-Base在中英文主流任务全面超越LlaMA3-13B，起到了“以小博大”的效果。

学术Fun将百川7B和13B制作成一键启动包，点击即可使用，避免大家配置Python环境出现各种问题，下载地址： https://xueshu.fun/3041/

注意使用环境如下：

windows 10/11

Baichuan2-7B-Chat-4bits：8G显存以上N卡

Baichuan2-13B-Chat-4bits：12G显存以上N卡

Baichuan2-7B-Chat: 24G显存以上N卡

整合包使用教程

下载压缩包下载地址：   https://xueshu.fun/3041/

解压，最好不要有中文路径，解压后，如下图所示，根据自己PC选择对应显存的.exe文件运行

浏览器访问http://127.0.0.1:7860/，即可在浏览器进行对话啦