是的,支持。请参考 OpenAI Assistant 文档页面。
使用 Hugging Face 提供的模型:mistralai/Mistral-7B-v0.1
import os
from embedchain import App
os.environ["HUGGINGFACE_ACCESS_TOKEN"] = "hf_your_token"
app = App.from_config("huggingface.yaml")
llm:
provider: huggingface
config:
model: 'mistralai/Mistral-7B-v0.1'
temperature: 0.5
max_tokens: 1000
top_p: 0.5
stream: false
embedder:
provider: huggingface
config:
model: 'sentence-transformers/all-mpnet-base-v2'
使用 OpenAI 提供的模型 gpt-4-turbo
。
import os
from embedchain import App
os.environ['OPENAI_API_KEY'] = 'xxx'
# 从 gpt4_turbo.yaml 文件加载 llm 配置
app = App.from_config(config_path="gpt4_turbo.yaml")
llm:
provider: openai
config:
model: 'gpt-4-turbo'
temperature: 0.5
max_tokens: 1000
top_p: 1
stream: false
import os
from embedchain import App
os.environ['OPENAI_API_KEY'] = 'xxx'
# 从 gpt4.yaml 文件加载 llm 配置
app = App.from_config(config_path="gpt4.yaml")
llm:
provider: openai
config:
model: 'gpt-4'
temperature: 0.5
max_tokens: 1000
top_p: 1
stream: false
from embedchain import App
# 从 opensource.yaml 文件加载 llm 配置
app = App.from_config(config_path="opensource.yaml")
llm:
provider: gpt4all
config:
model: 'orca-mini-3b-gguf2-q4_0.gguf'
temperature: 0.5
max_tokens: 1000
top_p: 1
stream: false
embedder:
provider: gpt4all
config:
model: 'all-MiniLM-L6-v2'
可以通过在配置文件中将 stream
设置为 true
来实现。
llm:
provider: openai
config:
model: 'gpt-3.5-turbo'
temperature: 0.5
max_tokens: 1000
top_p: 1
stream: true
import os
from embedchain import App
os.environ['OPENAI_API_KEY'] = 'sk-xxx'
app = App.from_config(config_path="openai.yaml")
app.add("https://www.forbes.com/profile/elon-musk")
response = app.query("Elon Musk 的净资产是多少?")
# 响应将随着生成在 stdout 中流式传输。
通过在配置文件中添加一个 id
来设置应用程序,这样可以保留数据以供将来使用。您可以将这个 id
包含在 yaml 配置中,或者直接在 config
字典中输入。
import os
from embedchain import App
os.environ['OPENAI_API_KEY'] = 'sk-xxx'
app1 = App.from_config(config={
"app": {
"config": {
"id": "your-app-id",
}
}
})
app1.add("https://www.forbes.com/profile/elon-musk")
response = app1.query("Elon Musk 的净资产是多少?")
import os
from embedchain import App
os.environ['OPENAI_API_KEY'] = 'sk-xxx'
app2 = App.from_config(config={
"app": {
"config": {
# 这将持久化并从 app1 会话加载数据
"id": "your-app-id",
}
}
})
response = app2.query("Elon Musk 的净资产是多少?")
本文系外文翻译,前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。
本文系外文翻译,前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。