Skip to content

如何部署自托管控制平面

在部署之前,请查阅关于自托管控制平面部署选项的概念指南

重要提示

自托管控制平面部署选项需要企业版套餐。

先决条件

  1. 你正在使用 Kubernetes。
  2. 你已部署自托管的 LangSmith。
  3. 使用 LangGraph CLI本地测试你的应用程序
  4. 使用 LangGraph CLI 构建 Docker 镜像(即 langgraph build),并将其推送到你的 Kubernetes 集群可以访问的注册表中。
  5. 你的集群上已安装 KEDA
     helm repo add kedacore https://kedacore.github.io/charts
     helm install keda kedacore/keda --namespace keda --create-namespace
    
    1. Ingress 配置
    2. 你必须为你的 LangSmith 实例设置一个入口。所有代理都将作为 Kubernetes 服务部署在此入口之后。
    3. 你可以使用此指南为你的实例设置入口
    4. 你的集群中有足够的空间来容纳多个部署。建议使用 Cluster-Autoscaler 来自动配置新节点。
    5. 你的集群中有可用的动态 PV provisioner 或 PV。你可以通过运行以下命令进行验证:

      kubectl get storageclass

设置

  1. 作为配置自托管 LangSmith 实例的一部分,你需要启用 langgraphPlatform 选项。这将配置一些关键资源。
    1. listener:这是一个服务,它监听来自控制平面的部署更改,并创建/更新下游的 CRD。
    2. LangGraphPlatform CRD:LangGraph 平台部署的 CRD。它包含管理 LangGraph 平台部署实例的规范。
    3. operator:此 Operator 处理 LangGraph 平台 CRD 的更改。
    4. host-backend:这是控制平面
  2. 该图表还将使用两个附加镜像。使用最新发布版本中指定的镜像。

    hostBackendImage:
      repository: "docker.io/langchain/hosted-langserve-backend"
      pullPolicy: IfNotPresent
    operatorImage:
      repository: "docker.io/langchain/langgraph-operator"
      pullPolicy: IfNotPresent
    
  3. 在你的 LangSmith 配置文件中(通常是 langsmith_config.yaml),启用 langgraphPlatform 选项。请注意,你还必须具有有效的入口设置:

    config:
      langgraphPlatform:
        enabled: true
        langgraphPlatformLicenseKey: "YOUR_LANGGRAPH_PLATFORM_LICENSE_KEY"
    
    1. 在你的 values.yaml 文件中,配置 hostBackendImageoperatorImage 选项(如果你需要镜像镜像)。
  4. 你还可以通过覆盖此处的基础模板来配置代理的基础模板。

  5. 你从控制平面 UI创建部署。