Hugging Face Blog·· 2023-07-04AI 评分40
如何用 Hugging Face Inference Endpoints 部署开源大模型
Deploy LLMs with Hugging Face Inference Endpoints
AI 导读
Hugging Face Inference Endpoints 支持一键部署 Falcon 40B instruct 等开源 LLM,提供自动扩缩容、scale-to-zero 和基于 uptime 计费。
来源:Hugging Face Blog · huggingface.co