本地电脑可以部署的基于AI大模型的智能在线问答系统可用于毕设原创

嗯，是我花了几天时间去编写的一个。智能聊天机器人页面。用到了，呃，AR.LM以及GDS。然后AR的话有两个引擎，一个是open a whisper, 还有一个是fast whisper.嗯，首先给大家嗯演示一下。你是谁？目前这个用的是openi whisper来进行做AA识别。

LM大模型用的是通1000问。I am a large language model created by alababa cloud my purpose is to process and generate human like text based on the inpa data with my advanced algorithms I can generate diverse text styles including narrative informative creative and more additionally.It can integrate natural language processing pound techniques such as sentiniment analysis named entity recognition topic modeling and more to improve the accuracy and relevance of the generated text in summary I am a large language model created by Alibaba cloud designed to process and generate human like text based on the IMP input data.With my advanced algorithms I can generate diverse text styles to break pound techniques and improve the accuracy and relevance of the generated text.

这个TTS用的是Mar ts.嗯，这里的话我们可以识别语种的话有。很多啊。这一大堆都是可以识别的。然后并且可以啊，翻译成这个英语，就是说我们通过呃，比如说我说的是中文以后，它会通过这个任务进行翻译以后翻译成英语，然后再输入到大模型中进行询问啊，然后这个下面这两个是进行TPS合成的一个参数，一个是选口音啊，如果你是。呃，用英语问的这个大模型的话，那么呃，大模型就会用英语去回答你了，那么你这个说话人的话，就必须要选择这个英语，如果你是选择其他的一个语言的话，那么它就会合成啊，就是合成不了。

呃，比如说我们不选翻译，我们直接请转写，然后这里的话我们就不能选英语了，因为我们等一下去用英语，呃中呃用这个普通话去问的，所以这里的话，呃语语语言的话选择汉语啊。呃，这里temperature temperature它和如果是temperature是等于0的话，那么它是这个be塞去生效啊，如果是它是非0值的话，那么塞是呃不生效，然后是这个best或者去生效的，所以这里的话把它改为0的话。嗯，那么。我们就是要他自己去生效，然后这个是我们可以把它写为0了。嗯。然后我们点击提交。现在的话我们就可以进行对话了。给我讲一个20字以内的故事。

啊，因为现在是用的是opens啊，它的一个速度稍微比fast要慢了，你看他现在的话是出了这个文本内容。然后现在的话是在请求大模型，大模型现在小猫跳过篱笆追着火里跑。这真是20自营的呀，真多哎。嗯。嗯，然后。但这里的话，我们用temperature的话也可以，然后我们这个的话就是要给他设值了，然后这个的话我们可以可以保留之前值，因为它用不到，用不到的话他嗯内部的话不会去用这个值，你设置这个值有没有用啊。嗯，然后我们点击提交。再给我讲一个30字以内的故事。

OK, 准确率还是蛮高的。目前使用的是small模型啊，Small模小明在森林中迷路，幸运地遇到了善良的鸟儿和录取，最终成功返回家园。嗯。然后我们再演示。我们在演示这个，使用这个。Perper的话说比较快啊。首先需要去登录。OK, 在这里可以选你的一个使用AA引擎啊，这都是本地去跑的，本地冲去部署的，整个流程都是在本地中可以内网，没有网络的一个机器上去可以去运行的。

呃，比如说我们刚才选的是这个啊，我们大家微per，然后现在我们选择fastper，然后模型的话，我们呃smart模型，呃工作线成数我们可以大一点，然后点击提交。OK, 现在的话初始化成功之后，我们进去一定要点击允许使用麦克风啊，我觉得这里点击录制的话就会以录制不到声音了。嗯，然后首先我们测试一下在英语的一个问答情况啊。嗯，我们把我我们不用这个啊，我们不用temperature这个，就我们用这个，比如说我们把它设大一点。嗯，其他的不变。提交。

啊，然后我们现在点击录制进行对话了，那我们松开鼠标的时候就会，呃，发送这个语音到后台。那现在转写，我们需要用英语去问。What's your name?我给他的速度是快的啊，稍微快的。I'm sorry but as an AI language model I don't have a name in the traditional sense however if you need any help or assistance with a specific topic or subject matter feel'free to ask me anything.然后如果你想去换口音的话，比如说这是美的一个口音，我想啊，听这个英式的一个口音，那么我们可以切换的口音。

我再问一下。What's your name?As an artificial intelligence language model I don't have a real name however you can refer to me as air model or simply model is there anything else I can help with.嗯，OK, 这是口音变了。嗯，然后。啊，我们也可以试一下翻译的，比如说我们问的是用用中文去问，我们用文化去问，要让他去翻译成英语。嗯，然后口音的话，我们用一下这个。呃，用一下这个澳澳大利亚。的一个口音啊。

你叫什么名字？给它就翻译成英语。My name is Sarah how can I assist you today.大模型，嗯，每次问的问题一样，但是他回答回答了就是不一样。按模型用的是这个千问啊，1.8B在本地中去。嗯。然后我们不翻译，我们这转写。嗯，然后这里的话就不能用英语了。我们自己比如说改成这个，呃，汉语。我们等于提交。你再问相同的一个问题。

你叫什么名字？我是来自阿里云的大规模语言模型，我交通1000文，我能够理解和生成多种自然语言文本，包括但不限于中文、英文、法文等。在语音识别和机器翻译等领域，我也发挥这重要的作用。如果你有任何关于我或者我的功能的问题，欢迎随时向我提问。嗯，OK.这个就是用中文问，然后让他去中文啊回答，然后从那个引进并返回啊。这整个过程的话，都是在本地中去进行的，意思就是说我们的内网中去可以去部署，呃，不依赖这个，不依赖这个网络传承，没有调用。

没有调用这个云云端的一个API啊。呃，然后嗯，这个的话就是编写的一个接口了，就是登录的。嗯，还有。啊，这是模型初始化的一个接口。那这是怎么写的？就是呃，对接大模型的，大模型是请求是本地起的，本地的话是用的是欧拉玛，奥拉玛中去跑这个千万一点八B。啊，还有TTS啊，TTS的话是用的是这个marin tts啊用的是他。嗯，OK.嗯，我是B站的一个变动分享路啊，如果大家需要视频的话，记得一键三连。

嗯，那么这个项目的话，到时候会把它发布到我的guitar中给他仓库中，有需要的话也可以去，到时候可以去自取，到时候我们还会，嗯。再去呃，完善这个功能以后，之后会再去录制视频，然后上传到那个B站中啊，一组远程分享录啊。嗯，如果还没有关注的话，也可以关注一下来。