Writer LLM
Writer 是一个生成不同语言内容的平台。
本示例将介绍如何使用 LangChain 与 Writer 模型 进行交互。
设置
要访问 Writer 模型，您需要创建一个 Writer 账户，获取 API 密钥，并安装 writer-sdk 和 langchain-community 软件包。
凭证
前往 Writer AI Studio 注册 OpenAI 并生成 API 密钥。完成此操作后，设置 WRITER_API_KEY 环境变量：
import getpass
import os
if not os.environ.get("WRITER_API_KEY"):
os.environ["WRITER_API_KEY"] = getpass.getpass("Enter your Writer API key:")
安装
LangChain Writer 集成位于 langchain-community 包中：
%pip install -qU langchain-community writer-sdk
[1m[[0m[34;49mnotice[0m[1;39;49m][0m[39;49m A new release of pip is available: [0m[31;49m24.2[0m[39;49m -> [0m[32;49m24.3.1[0m
[1m[[0m[34;49mnotice[0m[1;39;49m][0m[39;49m To update, run: [0m[32;49mpip install --upgrade pip[0m
Note: you may need to restart the kernel to use updated packages.
现在我们可以初始化模型对象来与 writer LLM 进行交互了
from langchain_community.llms import Writer as WriterLLM
llm = WriterLLM(
temperature=0.7,
max_tokens=1000,
# other params...
)
API Reference:Writer
调用
response_text = llm.invoke(input="Write a poem")
print(response_text)
流式传输
stream_response = llm.stream(input="Tell me a fairytale")
for chunk in stream_response:
print(chunk, end="")
异步
Writer 支持通过 ainvoke() 和 astream() 方法进行异步调用。
API 参考
有关 Writer 所有功能的详细文档，请访问我们的API 参考。
Related
- LLM conceptual guide
- LLM how-to guides