跳到正文

主题:数据分析与埋点

今日 0 条
8月1日周四
  1. Replicate Blog62

    Replicate 上线 FLUX.1 图像生成模型 API

    Replicate 上线了 Black Forest Labs 开发的开源图像生成模型 FLUX.1,可用一行代码在云端调用。FLUX.1 分三个版本:FLUX.1 [pro] 每张 $0.055,FLUX.1 [dev] 每张 $0.030,FLUX.1 [schnell] 每张 0.003 美元,其中 [schnell] 采用 Apache 2.0 许可。

    推荐理由:Replicate 官方上线 FLUX.1 并给出三个版本的单张价格,读者可据此比较接入成本。

7月25日周四
7月18日周四
  1. Hugging Face Blog62

    Hugging Face TGI 推出 Multi-LoRA:一次部署服务 30 个模型

    Hugging Face 为 TGI 推出 Multi-LoRA serving,只需部署一次基础模型,就能按请求动态切换多个 LoRA 适配器,官方示例用 mistralai/Mistral-7B-v0.1 同时服务 predibase/customer_support 和 predibase/magicoder。

    推荐理由:Hugging Face 官方介绍 TGI 的 Multi-LoRA 部署方式,给出成本与用量对比,适合评估多模型推理方案。

7月9日周二
6月18日周二
6月5日周三
  1. Mistral News62

    Mistral 在 la Plateforme 推出模型微调能力

    Mistral AI 在 la Plateforme 上线模型定制功能,提供三种微调入口:开源微调 SDK mistral-finetune、la Plateforme 上的无服务器微调服务,以及面向特定客户的定制训练服务。

    推荐理由:Mistral 官方发布微调能力,给出开源 SDK、托管服务与定制训练三条路径,便于开发者按成本与数据条件选择。

5月22日周三
5月16日周四
5月9日周四
  1. Vercel News22

    Vercel 分享 7 个可立即加入应用的 AI 功能

    Vercel 发文列出 7 个可立即加入应用的 AI 功能,包括语义搜索、自然聊天机器人、个性化推荐、即时本地化等。文中举例 Klarna 的 OpenAI 聊天机器人客户满意度与人工相当,解决问题快 80%,承担 700 名全职客服的工作量,带来 $40M 净收入。Vercel 提供原生 AI 支持及全托管的扩缩容、流式与缓存基础设施,按实际用量付费。

5月3日周五
5月2日周四
4月16日周二
  1. Supabase Blog62

    Supabase Edge Functions 内置 AI 推理 API,支持 gte-small 生成 embedding

    Supabase 在 Edge Functions 的 Edge Runtime 中内置了 Supabase.ai API,用几行代码即可运行 AI 推理,目前支持 gte-small 生成 embedding,并实验性支持 Llama 和 Mistral 等开源 LLM。

    推荐理由:Supabase 在 Edge Functions 内置 AI 推理 API,开发者可几行代码生成 embedding,并了解与 OpenAI 的成本对比。

4月2日周二
  1. Hugging Face Blog62

    Hugging Face 在 Hub 上线 Deploy on Cloudflare Workers AI 集成

    Hugging Face 宣布在 Hub 上线 Deploy on Cloudflare Workers AI 集成,开发者可在模型页的 Deploy 菜单选择 Cloudflare Workers AI,通过 Workers AI REST API 或 Cloudflare AI SDK 调用 Llama、Gemma、Mistral 等开源模型,按请求计费、无需自管 GPU。

    推荐理由:Hugging Face 与 Cloudflare 的这次集成已下线,但文中按请求计费的推理成本示例仍可作参考。

3月1日周五
  1. Vercel News62

    Vercel 发布 AI SDK 3.0,支持 Generative UI

    Vercel 发布 AI SDK 3.0,新增 Generative UI 能力,可通过 render 方法把 LLM 响应关联到流式 React Server Components,让模型调用工具后直接渲染自定义 UI,例如查询实时天气并返回组件。

    推荐理由:Vercel 官方发布 AI SDK 3.0,把 LLM 响应映射到流式 React Server Components,并说明了对框架与模型的支持边界。

2月8日周四
  1. Hugging Face Blog62

    Hugging Face 为 TGI 推出兼容 OpenAI 的 Messages API

    Hugging Face 为 Text Generation Inference(TGI)推出 Messages API,从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口,并同步上线 Inference Endpoints 的专用与无服务器版本。

    推荐理由:Hugging Face 官方发布 TGI 的 Messages API,给出从 OpenAI 迁移到开源模型的代码示例与限制说明。

1月11日周四
  1. Neon Blog58

    OpenAI GPT Store 上线,Neon 发布定制 Postgres GPT 专家

    OpenAI 的 GPT Store 已上线,Neon 借此发布了一个定制的 Neon 和 PostgreSQL OpenAI GPT 专家,用于回答 PostgreSQL 或 Neon 相关问题、协助项目。OpenAI 的 GPT 允许开发者创建定制 ChatGPT 体验,以执行特定任务或回答某一主题的问题。

    推荐理由:Neon 借 OpenAI GPT Store 上线发布自家 PostgreSQL 定制 GPT,可了解数据库厂商如何接入 GPT 生态。

1月10日周三
12月5日周二
  1. Hugging Face Blog62

    Hugging Face 发布 Optimum-NVIDIA,一行代码加速 LLM 推理

    Hugging Face 发布推理库 Optimum-NVIDIA,只需把 transformers 的 pipeline 导入改成 optimum.nvidia 一行代码,即可在 NVIDIA 平台获得最高 28 倍吞吐提升和 1,200 tokens/秒,首 token 延迟最高快 3.3 倍。

    推荐理由:Hugging Face 官方发布 Optimum-NVIDIA,给出改一行代码即可提速的实测数据与代码示例。

11月6日周一
  1. OpenAI News78

    OpenAI 在 DevDay 发布 GPT-4 Turbo、Assistants API 等新模型与开发者产品

    OpenAI 在 DevDay 上发布 GPT-4 Turbo,支持 128K 上下文且价格更低,同时推出 Assistants API、带视觉能力的 GPT-4 Turbo 以及 DALL·E 3 API 等开发者产品。材料仅提供摘要,未给出具体价格数字与各产品的详细能力说明。

    推荐理由:OpenAI 在 DevDay 一次性公布新模型与开发者产品,可据此了解模型能力与 API 价格的变化方向。

  2. OpenAI News62

    OpenAI 推出 GPTs,可创建自定义版 ChatGPT

    OpenAI 宣布用户现在可以创建自定义版本的 ChatGPT,把指令、额外知识和任意技能组合在一起。该功能由 OpenAI 官方发布,具体使用方式和开放范围原文未作进一步说明。

    推荐理由:OpenAI 官方宣布可创建自定义版 ChatGPT,读者可了解 GPTs 的组成要素与开放范围。

9月27日周三
  1. Mistral News62

    Mistral AI 发布首个 7B 参数开源模型 Mistral 7B

    Mistral AI 发布首个 7B 参数模型 Mistral 7B,采用 Apache 2.0 许可,官方称其在所有标准英文与代码基准上超过现有 13B 参数以内的开源模型。该模型可用于摘要、结构化与问答等任务,处理与生成文本速度更快、成本更低。Mistral AI 同时开放 GitHub 仓库和 Discord 频道,并表示后续将发布更大模型及面向企业的本地部署方案。

    推荐理由:Mistral AI 官方发布首个 7B 开源模型并说明开放权重路线,可了解其与闭源模型的定位差异。

9月26日周二
9月25日周一
9月19日周二
8月8日周二
  1. Replicate Blog62

    Replicate 为 SDXL 1.0 推出微调支持

    Replicate 宣布为 SDXL 1.0 提供微调支持,用户可用自己的图片训练出生成特定人物、物体或风格的新模型。训练只需 5-6 张图片,耗时约 10-15 分钟,默认使用 LoRA,也可切换 Dreambooth 或 Textual Inversion,训练完成后可发布为公开或私有模型并下载 LoRA 权重。

    推荐理由:Replicate 为 SDXL 1.0 上线微调支持,给出用几行代码训练自有风格模型的完整流程。

8月7日周一
8月3日周四
  1. Supabase Blog62

    Supabase 实测 pgvector:嵌入维度越低查询越快

    Supabase 用 pgvector 对比了 OpenAI text-embedding-ada-002(1536 维)与 all-MiniLM-L6-v2(384 维)的查询性能,在 accuracy@10 固定为 0.99 时后者每秒查询数高出 78%,内存占用从 7.5GB 降到 4GB。

    推荐理由:Supabase 用自家 pgvector 实测对比不同维度嵌入模型,给出查询速度与内存占用的具体差距,可据此选型。

7月7日周五
6月13日周二
5月25日周四
3月27日周一
3月23日周四
  1. OpenAI News62

    OpenAI 为 ChatGPT 推出插件支持

    OpenAI 宣布在 ChatGPT 中实现对插件的初步支持。插件是专为语言模型设计的工具,以安全为核心原则,可帮助 ChatGPT 获取最新信息、执行计算或使用第三方服务。

    推荐理由:OpenAI 官方宣布 ChatGPT 支持插件,插件可让模型获取实时信息、执行计算或调用第三方服务。

2月7日周二
  1. Replicate Blog62

    Replicate 上线 LoRA:更快微调 Stable Diffusion

    Replicate 宣布支持在云端用一次 API 调用训练 LoRA 模型,用于微调 Stable Diffusion。LoRA 由微软研究人员提出,Simo Ryu 将其应用到 Stable Diffusion;相比 DreamBooth 约二十分钟的训练和数 GB 的产物,LoRA 训练最快约八分钟,产物约 5MB,且推理无需冷启动。

    推荐理由:Replicate 上线 LoRA 训练与推理接口,并对比 DreamBooth 的训练时长和产物体积,便于开发者判断迁移成本。

1月25日周三
11月30日周三
  1. OpenAI News80

    OpenAI 发布对话式模型 ChatGPT

    OpenAI 发布了一个名为 ChatGPT 的模型,以对话方式与用户交互。官方称对话格式让 ChatGPT 能回答追问、承认自己的错误、质疑不正确的前提,并拒绝不当请求。

    推荐理由:OpenAI 发布对话式模型 ChatGPT,读者可了解其对话交互方式与追问、纠错等能力。

11月3日周四
9月21日周三
  1. OpenAI News60

    OpenAI 开源语音识别模型 Whisper

    OpenAI 宣布训练并开源名为 Whisper 的神经网络,用于语音识别。官方称其在英文语音识别上的稳健性和准确度接近人类水平。

    推荐理由:OpenAI 开源语音识别模型 Whisper,读者可了解其英文语音识别的稳健性与准确度定位。