如何部署自托管控制平面¶
在部署之前,请查阅关于自托管控制平面部署选项的概念指南。
重要提示
自托管控制平面部署选项需要企业版套餐。
先决条件¶
- 你正在使用 Kubernetes。
- 你已部署自托管的 LangSmith。
- 使用 LangGraph CLI 在本地测试你的应用程序。
- 使用 LangGraph CLI 构建 Docker 镜像(即
langgraph build
),并将其推送到你的 Kubernetes 集群可以访问的注册表中。 - 你的集群上已安装
KEDA
。helm repo add kedacore https://kedacore.github.io/charts helm install keda kedacore/keda --namespace keda --create-namespace
- Ingress 配置
- 你必须为你的 LangSmith 实例设置一个入口。所有代理都将作为 Kubernetes 服务部署在此入口之后。
- 你可以使用此指南为你的实例设置入口。
- 你的集群中有足够的空间来容纳多个部署。建议使用
Cluster-Autoscaler
来自动配置新节点。 -
你的集群中有可用的动态 PV provisioner 或 PV。你可以通过运行以下命令进行验证:
kubectl get storageclass
设置¶
- 作为配置自托管 LangSmith 实例的一部分,你需要启用
langgraphPlatform
选项。这将配置一些关键资源。 -
该图表还将使用两个附加镜像。使用最新发布版本中指定的镜像。
hostBackendImage: repository: "docker.io/langchain/hosted-langserve-backend" pullPolicy: IfNotPresent operatorImage: repository: "docker.io/langchain/langgraph-operator" pullPolicy: IfNotPresent
-
在你的 LangSmith 配置文件中(通常是
langsmith_config.yaml
),启用langgraphPlatform
选项。请注意,你还必须具有有效的入口设置:config: langgraphPlatform: enabled: true langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY"
- 在你的
values.yaml
文件中,配置hostBackendImage
和operatorImage
选项(如果你需要镜像镜像)。
- 在你的
-
你还可以通过覆盖此处的基础模板来配置代理的基础模板。
- 你从控制平面 UI创建部署。