前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >FastGPT | 3分钟构建属于自己的AI智能助手

FastGPT | 3分钟构建属于自己的AI智能助手

作者头像
AI uTools
发布2024-10-29 18:59:28
1680
发布2024-10-29 18:59:28
举报
文章被收录于专栏:AI uTools

这是一篇使用指南!!!

FastGPT是什么?

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

fastgpt其实就是使用了chatgpt的api(或者其他的大模型),构建自己的AI知识库

chatgpt是没办法获取到你自己的信息的

如果你想部署属于自己的gpt,或者是公司内部使用的

你可以选择fastgpt

适用人群:

  • chatgpt爱好者
  • chatgpt深度使用者
  • 想要构建自己的AI知识库
  • 想要给其他人提供gpt服务
  • 公司/组织 私有化

功能介绍

目前我觉得比较好用的3个功能

构建自己的知识库

通过导入文档或已有问答对进行训练,让 AI 模型能根据你的文档以交互式对话方式回答问题。

数据预处理

提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径,其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割,节省手动训练时间,提升效能。

高级编排

基于 Flow 模块的工作流编排,可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等

不过这个功能比较复杂,需要一定的学习成本

在线使用

  • 🌐 国内版:ai.fastgpt.in
  • 🌍 海外版:fastgpt.run

环境需要

  • 系统:windows or linux
  • docker环境
  • chatgpt账号,并有api

项目仓库地址

https://github.com/labring/FastGPT

安装指南

安装指引

  1. 获取API keys
  2. 在sealos上搭建nginx
  3. 安装fastgpt
获取API keys

这个很简单

打开网址:https://platform.openai.com/account/api-keys

登录你的gpt账号 (你得会魔法)

创建一个keys即可

搭建nginx

这里是在sealos上搭建的nginx,因为sealos是国外服务器,可以直接代理openai

不过它是收费的

搭建nginx的话,一天大概2毛钱

初次注册送5块钱

当然你也可以用其他方式

我们来开始搭建nginx

使用 Sealos 部署 Nginx 实现中转

登录 Sealos

Sealos

创建应用

打开 「应用管理」,点击「新建应用」:

填写基本配置

务必开启外网访问,复制外网访问提供的地址。

添加配置文件

复制下面这段配置文件,注意 server_name 后面的内容替换成第二步的外网访问地址。

代码语言:javascript
复制
user nginx;
worker_processes auto;
worker_rlimit_nofile 51200;

events {
    worker_connections 1024;
}

http {
    resolver 8.8.8.8;
    proxy_ssl_server_name on;

    access_log off;
    server_names_hash_bucket_size 512;
    client_header_buffer_size 64k;
    large_client_header_buffers 4 64k;
    client_max_body_size 50M;

    proxy_connect_timeout       240s;
    proxy_read_timeout          240s;
    proxy_buffer_size 128k;
    proxy_buffers 4 256k;

    server {
        listen 80;
        server_name tgohwtdlrmer.cloud.sealos.io; # 这个地方替换成 Sealos 提供的外网地址

        location ~ /openai/(.*) {
            proxy_pass https://api.openai.com/$1$is_args$args;
            proxy_set_header Host api.openai.com;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            # 如果响应是流式的
            proxy_set_header Connection '';
            proxy_http_version 1.1;
            chunked_transfer_encoding off;
            proxy_buffering off;
            proxy_cache off;
            # 如果响应是一般的
            proxy_buffer_size 128k;
            proxy_buffers 4 256k;
            proxy_busy_buffers_size 256k;
        }
    }
}

点开高级配置。

点击「新增配置文件」。

文件名写: /etc/nginx/nginx.conf

文件值为刚刚复制的那段代码。

点击确认。

部署应用

填写完毕后,点击右上角的「部署」,即可完成部署。

修改 FastGPT 环境变量
  1. 进入刚刚部署应用的详情,复制外网地址 注意:这是个 API 地址,点击打开是无效的。如需验证,可以访问: *.cloud.sealos.io/openai/api,如果提示 Invalid URL (GET /api) 则代表成功。
  2. 修改环境变量(是 FastGPT 的环境变量,不是 Sealos 的):
代码语言:javascript
复制
   OPENAI_BASE_URL=https://tgohwtdlrmer.cloud.sealos.io/openai/v1

Done!

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2023-11-06,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 AI uTools 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • FastGPT是什么?
  • 功能介绍
    • 构建自己的知识库
      • 数据预处理
        • 高级编排
        • 在线使用
        • 环境需要
        • 项目仓库地址
        • 安装指南
          • 安装指引
            • 获取API keys
            • 搭建nginx
        相关产品与服务
        数据库
        云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
        领券
        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档