跳到正文
原文
Hugging Face Blog·· 2023-07-04AI 评分40

如何用 Hugging Face Inference Endpoints 部署开源大模型

Deploy LLMs with Hugging Face Inference Endpoints

AI 导读

Hugging Face Inference Endpoints 支持一键部署 Falcon 40B instruct 等开源 LLM,提供自动扩缩容、scale-to-zero 和基于 uptime 计费。

来源:Hugging Face Blog · huggingface.co