跳到正文

主题:Google

今日 3 条
11月18日周一
10月23日周三
  1. Hugging Face Blog58

    Hugging Face 发布 HUGS:零配置开源模型推理微服务

    Hugging Face 发布 HUGS(Hugging Face Generative AI Services),一套零配置的优化推理微服务,基于 Text Generation Inference 和 Transformers,可在自有基础设施上部署开源模型。

    推荐理由:Hugging Face 官方发布零配置推理微服务 HUGS,给出定价与支持模型清单,可对照自建推理方案的成本与迁移路径。

9月24日周二
8月15日周四
7月24日周三
7月9日周二
6月18日周二
5月16日周四
5月2日周四
1月10日周三
10月6日周五
6月6日周二
5月9日周二
  1. Hugging Face Blog58

    Hugging Face 用 StarCoder 微调出编程助手 StarChat

    Hugging Face 发布教程,介绍如何把 16B 参数的 StarCoder 微调成对话式编程助手 StarChat,并公开代码、数据集与模型。流程包括用 ChatML 特殊 token 组织对话、屏蔽用户轮次的标签,再用 DeepSpeed ZeRO-3 在 8 张 A100 80GB 上训练约 45 分钟。

    推荐理由:Hugging Face 公开了把 StarCoder 微调成对话式编程助手的完整流程,含数据格式与训练配置。

3月28日周二
3月18日周四
7月29日周三