通义千问广东话对话大模型，支持N卡，A卡，CPU！

通义千问广东话对话大模型，支持N卡，A卡，CPU！

Qwen-7B-Chat-Cantonese 是基于 Qwen-7B-Chat 的专门微调版本，针对大量粤语数据进行优化训练，以增强模型的地区语言适应性。

冚家剷泥齊種樹

汝家池塘多鮫魚

魚肥果熟嫲撚飯

你老母兮親下廚

你仲话噏野，點知你又冧家剷泥齊種樹，汝家池塘多鮫魚，魚肥果熟嫲撚飯，你老母兮親下廚。我忍住笑，但好彩咪砌起屎來

粤语，广为人知的广东话，是汉藏语系汉语族中的一种声调语言。广东话在语音上保留了唐宋时期的中古语音系统特点，词汇上则融合了现代与古代汉语的元素，显示出文白夹杂的独特风格。此外，广东话中也包括一定比例的侗泰语词汇。

注意电脑配置如下：

操作系统：Windows 10/11 64位

显存：8GB以上英伟达显卡

CUDA>=12.1，CUDA安装教程：2024年Windows安装配置CUDA和cuDNN教程

解压所下载的压缩包，解压后的内容包括：

koboldcpp.exe —— 适用于NVIDIA显卡的启动软件

koboldcpp_nocuda.exe —— 适用于无CUDA支持的CPU运行软件

koboldcpp_rocm.exe —— 适用于AMD显卡的启动软件

Cantonese_q5_k_m.gguf —— 模型文件

以AMD显卡为例，双击koboldcpp_rocm.exe以运行软件。

软件启动后，会显示检测到的显卡型号。

检测到的显卡型号

点击Launch按钮并选择Cantonese_q5_k_m.gguf模型文件以启动模型。

启动模型后，会自动在浏览器中打开 http://localhost:5001 地址，您可以开始与模型进行交互了！

有没有懂粤语的朋友，评价下这粤语说得地不地道！