使用langchain接入文心一言接口
输入“/”快速插入内容
使用langchain接入文心一言接口
使用langchain接入文心一言接口
飞书用户44435月24日修改
说明：本文使用LangChain v0.2版本。
在使用Langchain的过程中，默认使用的都是OpenAI接口，但是总是各种问题。尝试将OpenAI接口替换为文心一言接口，找到了langchain-wenxin类库（虽然已经不再维护，但是可用）。最后也介绍了QianfanChatEndpoint的使用方式。
一.OpenAI接口使用方式
代码块
def chat_with_openai():
"""
使用OpenAI的API进行对话
"""
os.environ["OPENAI_API_KEY"] = ""
chat = ChatOpenAI(temperature=0)
response = chat.predict_messages([ # 生成回复
HumanMessage(
content = (
"Translate this sentence from English to Chinese. "
"I love programming."
)
)
])
print(response) # 打印回复
二.文心一言接口使用方式：langchain-wenxin
需要安装的Python类库为pip install openai langchain langchain-wenxin，如下所示：
代码块
def chat_with_wenxin():
"""
使用文心一言接口进行对话
"""
WENXIN_APP_Key = "" # 设置API Key
WENXIN_APP_SECRET = "" # 设置Secret Key
chat_model = ChatWenxin(
temperature = 0.9, # 表示生成多样性，越大生成的句子越多样，但是也越不准确
model = "ernie-bot-turbo", # 表示使用的模型
baidu_api_key = WENXIN_APP_Key, # API Key
baidu_secret_key = WENXIN_APP_SECRET, # Secret Key
verbose=True, # 表示是否打印调试信息
)
response_chat = chat_model([ HumanMessage(content="你是谁呢？") ])
print(response_chat)
其实调用方式，包括文心模型调用（wenxin model）、流式调用（stream call）、异步调用（async call）、文心对话模型调用（wenxin chat model）和文心嵌入模型（wenxin embeddings model）调用等，如下所示：
代码块
from langchain_wenxin.llms import Wenxin
# Wenxin model
llm = Wenxin(model="ernie-bot-turbo")
print(llm("你好"))
# stream call
for i in llm.stream("你好"):
print(i)
# async call
import asyncio
print(asyncio.run(llm._acall("你好")))
# Wenxin chat model
from langchain_wenxin.chat_models import ChatWenxin
from langchain.schema import HumanMessage
llm = ChatWenxin()
print(llm([HumanMessage(content="你好")]))
# Wenxin embeddings model
from langchain_wenxin.embeddings import WenxinEmbeddings
wenxin_embed = WenxinEmbeddings(truncate="END")
print(wenxin_embed.embed_query("hello"))
print(wenxin_embed.embed_documents(["hello"]))