Abso
Abso 是一个开源的 LLM 代理,可根据提示的复杂性自动在快速和慢速模型之间路由请求。它使用各种启发式方法来选择合适的模型。它速度非常快,延迟很低。
安装和设置
pip install langchain-abso
Chat Model
在此处查看使用详情 /docs/integrations/chat/abso
Abso 是一个开源的 LLM 代理,可根据提示的复杂性自动在快速和慢速模型之间路由请求。它使用各种启发式方法来选择合适的模型。它速度非常快,延迟很低。
pip install langchain-abso
在此处查看使用详情 /docs/integrations/chat/abso