LangChain开发模组学习：Chains

悟乙己

发布于 2024-05-24 18:54:57

430

发布于 2024-05-24 18:54:57

文章被收录于专栏：素质云笔记素质云笔记

参考来自：LangChain大型语言模型(LLM)应用开发(三)：Chains

1 LLMChain

LLMChain是最基本的chain，他将LLM和prompt组合在一起，下面我们要实现一个让LLM给生产不同产品的公司取名字的功能：

from langchain.chat_models import ChatOpenAI
from langchain.prompts import ChatPromptTemplate
from langchain.chains import LLMChain
 
#定义大型语言模型
llm = ChatOpenAI(temperature=0.9)
 
prompt = ChatPromptTemplate.from_template(
    "描述生产{product}的公司的一个最佳名称是什么？"
)
 
#将llm和prompt组合在一起创建一个LLMChain的实例
chain = LLMChain(llm=llm, prompt=prompt)
 
#执行chain
product = "床上用品"
chain.run(product)

这里我们定义llm时使用的温度参数temperature为0.9，该参数的取值范围为0-1，之所以这里要设置为0.9，因为temperature的值越大，那么llm返回结果的随机性就越大，这里我们要实现的功能是给公司取名字的功能，因此我们需要LLM具有较大的灵活性和多样性，所以llm每次返回的结果可能都会不一样，这也就是我们希望llm实现的功能。

2 Sequential Chains

2.1 SimpleSequentialChain

Sequential chain 是另一种类型的chain。它可以将多个chain组合在一起，其中一个chain的输出是下一个chain的输入。

下面我们看个例子，在这个例子中我们除了要执行之前LLMChain的给公司取名的功能外，我们还要需要llm生成20个字左右的公司名称的描述信息，所以，在这里需要创建两个chain, 一个chain负责给公司取名字，另一个chain负责就公司的名字生成20个字左右的描述信息，最后我们需要将这两个chain组合在一起,创建一个新的chain,对于这个新的chain它只有一个输入和一个输出，输入就是公司生产的产品，输出则是对公司名称的20字左右的描述信息。

from langchain.chains import SimpleSequentialChain
 
llm = ChatOpenAI(temperature=0.9)
 
# prompt template 1
first_prompt = ChatPromptTemplate.from_template(
    "描述生产{product}的公司的一个最佳名称是什么？"
)
 
# Chain 1
chain_one = LLMChain(llm=llm, prompt=first_prompt)
 
 
# prompt template 2
second_prompt = ChatPromptTemplate.from_template(
    "为以下公司编写 20 个字的描述：{company_name}”"
)
# chain 2
chain_two = LLMChain(llm=llm, prompt=second_prompt)
 
# 将chain1和chain2组合在一起生成一个新的chain.
overall_simple_chain = SimpleSequentialChain(chains=[chain_one, chain_two],
                                             verbose=True
                                            )
#执行新的chain
overall_simple_chain.run(product)

2.2 SequentialChain

更加复杂的SimpleSequentialChain 在下面的例子中我对官方课件的代码做了修改，原来官方的代码只有4个chain, 而我在此基础上增加了一个chain,这样的修改主要是让大家更好的理解该案例中涉及的prompt的含义，原先的prompt使用的都是英语，我都将其翻译成了中文，这样大家就比较能看懂这些prompt了，该案例主要功能是要让llm对前面导入的用户评语进行分析，并给出回复，因为用户的评语可能使用的是多种不同的语言，为此我们需要让chain能够识别用户评语使用的是那种语言，并将其翻译成中文，最后给出回复，具体来说包含以下功能和步骤：

将用户评论翻译成中文
用一句话概括用户评论
识别出用户评论使用的语言
按原始评论语言生成回复
将回复翻译成中文

from langchain.chains import SequentialChain
 
#定义llm
llm = ChatOpenAI(temperature=0.9)
 
# prompt template 1: 将评论翻译成中文
first_prompt = ChatPromptTemplate.from_template(
    "将下面的评论翻译成中文:"
    "\n\n{Review}"
)
# chain 1: input= Review and output= Chinese_Review
chain_one = LLMChain(llm=llm, prompt=first_prompt, 
                     output_key="Chinese_Review"
                    )
#概括评论
second_prompt = ChatPromptTemplate.from_template(
    "你能用 1 句话概括以下评论吗："
    "\n\n{Chinese_Review}"
)
# chain 2: input= Chinese_Review and output= summary
chain_two = LLMChain(llm=llm, prompt=second_prompt, 
                     output_key="summary"
                    )
 
 
# prompt template 3: 识别评论使用的语言
third_prompt = ChatPromptTemplate.from_template(
    "下面的评论使用的是什么语言？:\n\n{Review}"
)
# chain 3: input= Review and output= language
chain_three = LLMChain(llm=llm, prompt=third_prompt,
                       output_key="language"
                      )
 
 
# prompt template 4: 生成回复信息
fourth_prompt = ChatPromptTemplate.from_template(
    "使用指定语言编写对以下摘要的后续回复："
    "\n\n摘要：{summary}\n\n语言：{language}"
 
)
# chain 4: input= summary, language and output= followup_message
chain_four = LLMChain(llm=llm, prompt=fourth_prompt,
                      output_key="followup_message"
                     )
 
# prompt template 5: 将回复信息翻译成中文
five_prompt = ChatPromptTemplate.from_template(
    "将下面的评论翻译成中文:"
    "\n\n{followup_message}"
)
# chain 5: input= followup_message and output= Chinese_followup_message
chain_five = LLMChain(llm=llm, prompt=five_prompt, 
                     output_key="Chinese_followup_message"
                    )
 
 
# overall_chain: input= Review 
# output= language,Chinese_Review,summary, followup_message,
          #Chinese_followup_message
overall_chain = SequentialChain(
    chains=[chain_one, chain_two, chain_three, chain_four,chain_five],
    input_variables=["Review"],
    output_variables=["language","Chinese_Review", "summary",
                      "followup_message","Chinese_followup_message"],
    verbose=True
)

这里我们看到我们在定义最后的overall_chain 时设置了输入变量和输出变量，因此这些输入和输出变量最后会作为中间结果被输出。

review = 'A suspended lawyer is forced to enroll in a community college with an eccentric staff and student body.'
overall_chain(review)

3 Router Chain

有一种应用场景就是我们有时候希望根据信息的内容将其传送到不同的chain,而每个chain的职能是只擅长回答自己所属领域的问题，那么在这种场景下我们就需要一种具有"路由器"功能的chain来将信息传输到不同职能的chain.

3.2 模块一：default_chain模块

physics_template="""你是一位非常聪明的物理学教授。\
你擅长以简洁易懂的方式回答有关物理的问题。 \
当你不知道某个问题的答案时，你就承认你不知道。
这里有一个问题：
{input}"""
 
 
math_template="""你是一位非常优秀的数学家。\
你很擅长回答数学问题。 \
你之所以如此出色，是因为你能够将难题分解为各个组成部分，\
回答各个组成部分，然后将它们组合起来回答更广泛的问题。
这里有一个问题：
{input}"""
 
history_template = """你是一位非常优秀的历史学家。\
你对各个历史时期的人物、事件和背景有深入的了解和理解。 \
你有能力思考、反思、辩论、讨论和评价过去。 \
你尊重历史证据，并有能力利用它来支持你的解释和判断。
这里有一个问题：
{input}"""
 
 
computerscience_template="""你是一位成功的计算机科学家。\
你有创造力，协作精神，前瞻性思维，自信，有很强的解决问题的能力，\
对理论和算法的理解，以及出色的沟通能力。\
你很擅长回答编程问题。
你是如此优秀，因为你知道如何通过描述一个机器可以很容易理解的命令步骤来解决问题，\
你知道如何选择一个解决方案，在时间复杂度和空间复杂度之间取得良好的平衡。
这里有一个问题：
{input}"""


prompt_infos = [
    {
        "name": "physics", 
        "description": "擅长回答有关物理方面的问题", 
        "prompt_template": physics_template
    },
    {
        "name": "math", 
        "description": "擅长回答有关数学方面的问题", 
        "prompt_template": math_template
    },
    {
        "name": "history", 
        "description": "擅长回答有关历史方面的问题", 
        "prompt_template": history_template
    },
    {
        "name": "computer science", 
        "description": "擅长回答有关计算机科学方面的问题", 
        "prompt_template": computerscience_template
    }
]

from langchain.chains import LLMChain
from langchain.chains.router import MultiPromptChain
from langchain.chains.router.llm_router import LLMRouterChain,RouterOutputParser
from langchain.prompts import PromptTemplate
from langchain.prompts import ChatPromptTemplate
from langchain.chat_models import ChatOpenAI
 
#定义llm
llm = ChatOpenAI(temperature=0)
 
#创建目标chain
destination_chains = {}
for p_info in prompt_infos:
    name = p_info["name"]
    prompt_template = p_info["prompt_template"]
    prompt = ChatPromptTemplate.from_template(template=prompt_template)
    chain = LLMChain(llm=llm, prompt=prompt)
    destination_chains[name] = chain  
    
destinations = [f"{p['name']}: {p['description']}" for p in prompt_infos]
destinations_str = "\n".join(destinations)
print(destinations_str)


# default_chain，这个chain的作用是当用户的问题与现有的所有目标chain都无法匹配时，那么就由default_chain来回答用户的问题：
default_prompt = ChatPromptTemplate.from_template("{input}")
default_chain = LLMChain(llm=llm, prompt=default_prompt)

3.2 模块二：route路由模块

MULTI_PROMPT_ROUTER_TEMPLATE = """给定一个原始文本输入到\
一个语言模型并且选择最适合输入的模型提示语。＼
你将获得可用的提示语的名称以及该提示语最合适的描述。＼
如果你认为修改原始输入最终会导致语言模型得到更好的响应，你也可以修改原始输入。
<< FORMATTING >>
返回一个 Markdown 代码片段，其中 JSON 对象的格式如下：
```json
{{{{
"destination": string \ 要使用的提示语的名称或"DEFAULT"
"next_inputs": string \ 原始输入的可能修改版本
}}}}
#```
记住:"destination"必须是下面指定的候选提示语中的一种，\
如果输入语句不适合任何候选提示语，则它就是"DEFAULT"。
记住:"next_inputs"可以只是原始输入，如果你认为不需要做任何修改的话。
<< CANDIDATE PROMPTS >>
{destinations}
<< INPUT >>
{{input}}
<< OUTPUT (remember to include the ```json)>>"""

router_template = MULTI_PROMPT_ROUTER_TEMPLATE.format(
    destinations=destinations_str
)
 
print(router_template)

router_chain = LLMRouterChain.from_llm(llm, router_prompt)

3.3 合并

chain = MultiPromptChain(router_chain=router_chain, 
                         destination_chains=destination_chains, 
                         default_chain=default_chain, verbose=True
                        )
# 设计一些简单的问题，这些问题可能涉及到不同的领域
response = chain.run("2+2等于几？")
print(response)

response = chain.run("成吉思汗是谁？")
print(response)


response = chain.run("什么是黑体辐射？")
print(response)

response = chain.run("为什么学习机器学习都要使用python语言？")
print(response)

response = chain.run("天上一共有多少颗星星？")
print(response)