GreenNode
GreenNode 是一家全球性人工智能解决方案提供商,也是 NVIDIA 首选合作伙伴,为美国、中东及北非(MENA)以及亚太(APAC)地区的各类企业提供从基础设施到应用的端到端人工智能能力。 凭借获得 LEED 金级认证、TIA‑942 和 Uptime Tier III 等级认证的世界级基础设施,GreenNode 通过一系列全面的人工智能服务赋能企业、初创公司和研究人员:
- 强大的 AI 基础设施: 作为亚太地区首批大规模人工智能集群之一,GreenNode 的基础设施由 NVIDIA H100 GPU 提供支持,专为高吞吐量的机器学习和深度学习工作负载进行了优化。
- GreenNode AI 平台: GreenNode 的自助式 AI 平台专为技术团队而设计,可快速部署 Jupyter notebook 环境,并预配置了优化的计算实例。在此门户网站上,开发人员只需极少的设置时间即可启动机器学习训练、微调、超参数优化和推理工作流。该平台还提供了 100 多个精选的开源模型访问权限,并支持与常见的 MLOps 工具和存储框架进行集成。
- GreenNode Serverless AI: GreenNode Serverless AI 提供了一个涵盖文本生成、代码生成、文本转语音、语音转文本、嵌入和重新排序模型等领域的预训练生产就绪模型库。此服务非常适合希望快速原型设计或部署人工智能解决方案而无需管理模型基础设施的团队。
- AI 应用: 从智能数据管理和文档处理 (IDP) 到智能视频分析,GreenNode 支持大规模的实际人工智能用例。 无论您是在构建下一个大型语言模型工作流、扩展人工智能研究还是部署企业级应用程序,GreenNode 都能提供工具和基础设施来加速您的旅程。
安装和设置
可以通过 pip 安装 GreenNode 集成:
%pip install -qU langchain-greennode
Note: you may need to restart the kernel to use updated packages.
API 密钥
要使用 GreenNode Serverless AI,您需要一个 API 密钥,您可以在 GreenNode Serverless AI 获取。API 密钥可以作为初始化参数 api_key 传递,或者设置为环境变量 GREENNODE_API_KEY。
import getpass
import os
if not os.getenv("GREENNODE_API_KEY"):
os.environ["GREENNODE_API_KEY"] = getpass.getpass("Enter your GreenNode API key: ")
聊天模型
from langchain_greennode import ChatGreenNode
chat = ChatGreenNode(
model="deepseek-ai/DeepSeek-R1-Distill-Qwen-32B", # Choose from available models
temperature=0.6,
top_p=0.95,
)
GreenNode Chat Model 的用法
嵌入式模型
from langchain_greennode import GreenNodeEmbeddings
# Initialize embeddings
embeddings = GreenNodeEmbeddings(
model="BAAI/bge-m3" # Choose from available models
)
GreenNode 嵌入模型 的用法
重新排序
from langchain_greennode import GreenNodeRerank
# Initialize reranker
rerank = GreenNodeRerank(
model="BAAI/bge-reranker-v2-m3", # Choose from available models
top_n=-1,
)
GreenNode Rerank Model 的用法