前往小程序,Get更优阅读体验!
立即前往
发布
社区首页 >专栏 >Bolt + 免费的Mistral 和 Github API:免费且强大的AI代理工作流,无需V0(o1-preview免费)

Bolt + 免费的Mistral 和 Github API:免费且强大的AI代理工作流,无需V0(o1-preview免费)

作者头像
AI进修生
发布2024-12-02 19:44:18
发布2024-12-02 19:44:18
39000
代码可运行
举报
文章被收录于专栏:AI进修生AI进修生
运行总次数:0
代码可运行

🍹 Insight Daily 🪺

Aitrainee | 公众号:AI进修生

Hi,这里是Aitrainee,欢迎阅读本期新文章。

>/ 速览:本节给你带来一个讯息:Github最近提供了海量免费模型,包括Gpt4o、o1-preview等强大模型。

官方的说法是这些模型有速率限制,供你开发调试项目使用,等项目做好了可以切换到付费模式。

我还会介绍一个Blot分支项目,以配合这些免费api使用。

Bolt 呀,以前写的一篇文章介绍它是最好的代码编写代理之一,大家都很喜欢它,并且他是开源的,唯一的问题是他需要和 Anthropic API (Claude模型)密钥一起使用,这个就限制了很多人。

Bolt.new:这款全新免费编码代理太棒了!轻松超越 v0 和 Cursor!(告别 ChatGPT、Claude)

2024-10-06

所以说介绍使用免费的api来说是很有价值的,我最近发现了 Bolt 的开源版本的一个分支:bolt.new-any-llm。

它有以下功能:首先,它支持 Open Router、Gemini 和 AI 模型的集成。它还可以下载AI生成的项目为 zip 文件,并改进了系统提示(system prompt),包括了 Deep Seek、Mistral 和 OpenAI 兼容的 API 集成。

它还支持将文件同步到本地文件夹,甚至可以直接将项目发布到 GitHub。

下面我们还是直接本地安装一下看一看它的实际功能吧,直接动手做可能更直观,项目原址还有Docker安装。

首先,你需要使用这个命令将它克隆到你的计算机上。

代码语言:javascript
代码运行次数:0
复制
git clone git@github.com:coleam00/bolt.new-any-llm.git

克隆完成后,进入文件夹,然后运行 pnpm install 命令安装依赖项。

安装完成后,将 EnV 示例文件重命名为 EnV 本地文件。

现在打开它,你需要这个文件里输入你想使用的提供商的 API 密钥,比如 Groq、OpenAI、Anthropic、Deep Seek、Mistral、Ollama 和你的自定义 OpenAI 基础 URL。

Gemini 以及 Mistral (没有速率限制) 的 API 是免费的。

Mistral API:https://console.mistral.ai/api-keys/(支持中国号码验证)

然后启动:

看到界面

选择 Mistral Large Latest 模型

测试一下,创建一个待办事项

▲ AICodeKing

OK的。

这上面就是我们提到前面的一些功能,比如上传Github、下载Zip:

Github免费的GPT4o API来了!

这个项目 如何搭配GitHub 模型提供的免费 API 来使用 ?

到这获取GitHub Model界面提供的免费模型API

https://github.com/marketplace/models

主流模型都在这

虽然免费但还是有限制的

获取密钥

你可以在本地测试API是否调用成功

代码语言:javascript
代码运行次数:0
复制
import os
from openai import OpenAI

token = os.environ["GITHUB_TOKEN"]
endpoint = "https://models.inference.ai.azure.com"
model_name = "gpt-4o"

client = OpenAI(
    base_url=endpoint,
    api_key=token,
)

response = client.chat.completions.create(
    messages=[
        {
            "role": "system",
            "content": "You are a helpful assistant.",
        },
        {
            "role": "user",
            "content": "Give me 5 good reasons why I should exercise every day.",
        }
    ],
    model=model_name,
    stream=True
)

for update in response:
    if update.choices[0].delta.content:
        print(update.choices[0].delta.content, end="")

回到Blot来,你需要创建一个轻量 LLM 代理服务器(Light llm proxy server),使 上面的 GitHub 模型 API 完全兼容 OpenAI。

然后就是导入密钥,使用模型。

当然你完全也可以使用One-API来起到相同的效果。

Ok了这样就搞好了

使用React创建一个简单的扫雷游戏。

▲ AICodeKing

还不错呦。

总的来说,这次我介绍了谷歌、Mistral 这两个提供免费模型API的供应商,并介绍了GitHub Model上众多免费的模型。

这些资源可以帮助您在开发和调试项目时使用免费的API。同时,结合Bolt 这个强大的AI代理,你可以获得更好的开发体验。

🌟希望这篇文章对你有帮助,感谢阅读!如果你喜欢这系列文章请以 点赞 / 分享 / 在看 的方式告诉我,以便我用来评估创作方向。

💫video source:https://www.youtube.com/watch?v=p_tyWtQZx48

👽Submission:kristjahmez06@gmail.com

参考链接: [1] github:https://github.com/coleam00/bolt.new-any-llm

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-11-02,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 AI进修生 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • Aitrainee | 公众号:AI进修生
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档