Mistral AI 开放 La Plateforme 平台测试版,提供三个对话端点与嵌入端点
Mistral AI 开放首个平台服务 La Plateforme 的测试版,提供三个对话端点和嵌入端点,各端点性能与价格不同。
推荐理由:Mistral AI 开放平台测试版,给出三个对话端点和嵌入端点的模型、语言支持与 MT-Bench 分数,便于开发者对比选型。
把重复动作交给工具:触发器与连接器、Agent 工作流、定价与用量限制,一个人干一支团队的活。
Mistral AI 开放首个平台服务 La Plateforme 的测试版,提供三个对话端点和嵌入端点,各端点性能与价格不同。
推荐理由:Mistral AI 开放平台测试版,给出三个对话端点和嵌入端点的模型、语言支持与 MT-Bench 分数,便于开发者对比选型。
Hugging Face 发布推理库 Optimum-NVIDIA,只需把 transformers 的 pipeline 导入改成 optimum.nvidia 一行代码,即可在 NVIDIA 平台获得最高 28 倍吞吐提升和 1,200 tokens/秒,首 token 延迟最高快 3.3 倍。
推荐理由:Hugging Face 官方发布 Optimum-NVIDIA,给出改一行代码即可提速的实测数据与代码示例。
Paddle 发布面向 Paddle Billing 的 Cancellation Flows,通过问卷向取消订阅的客户提供暂停订阅、切换套餐或折扣等挽留选项,并收集取消原因。
推荐理由:Paddle 官方发布取消挽留流程,并给出测试中最多降低 30% 取消流失的数据,做订阅收款的开发者可据此评估接入方式。
Replicate 发布教程,演示如何用 BAAI/bge-large-en-v1.5 模型生成文本嵌入,并给出从文本列表、JSONL 文件到 SAMSum 数据集的完整代码流程。
推荐理由:Replicate 官方给出用 BGE 模型生成文本嵌入的完整流程,并实测其成本低于 OpenAI Ada v2。
Hugging Face 发布 Latent Consistency LoRA,通过只训练少量 LoRA 适配层而非蒸馏整个模型,把 Stable Diffusion 和 SDXL 的推理步数从 25 到 50 步降到 4 到 8 步。
推荐理由:Hugging Face 发布 LCM LoRA,把 SDXL 推理从 25 步压到 4 步,并给出各硬件实测耗时。
OpenAI 在 DevDay 上发布 GPT-4 Turbo,支持 128K 上下文且价格更低,同时推出 Assistants API、带视觉能力的 GPT-4 Turbo 以及 DALL·E 3 API 等开发者产品。材料仅提供摘要,未给出具体价格数字与各产品的详细能力说明。
推荐理由:OpenAI 在 DevDay 一次性公布新模型与开发者产品,可据此了解模型能力与 API 价格的变化方向。
OpenAI 宣布用户现在可以创建自定义版本的 ChatGPT,把指令、额外知识和任意技能组合在一起。该功能由 OpenAI 官方发布,具体使用方式和开放范围原文未作进一步说明。
推荐理由:OpenAI 官方宣布可创建自定义版 ChatGPT,读者可了解 GPTs 的组成要素与开放范围。
Vercel Postgres 结束 beta,正式面向 Hobby 和 Pro 用户开放,beta 期间冷启动时间降至 100-200ms。用量价格下调:总存储从 $0.30/GB 降至 $0.12/GB,写入数据从 $0.10/GB 降至 $0.096/GB,数据传输从 $0.20/GB 降至 $0.09/GB。
推荐理由:Vercel Postgres 结束 beta 面向 Hobby 和 Pro 开放,并给出存储、写入与传输的新价格和免费额度。
Vercel 将 v0 从 Alpha 转入 Beta,新增 5,000 名用户访问权限,并推出订阅套餐。v0 让开发者用自然语言描述界面,由 React、Tailwind CSS 和 Shadcn UI 生成代码,等待名单在三周内积累了 100,000 人。
推荐理由:Vercel 官方公布 v0 从 Alpha 转入 Beta 并给出四档订阅价格,可据此判断生成式 UI 工具的成本与可用性。
Supabase 用 dbpedia 的 100 万条 OpenAI embeddings(1536 维)对比 pgvector 与 Pinecone 的查询性能和成本。
推荐理由:Supabase 用同一数据集对比 pgvector 与 Pinecone 的 QPS、精度和月成本,可据此估算向量检索方案的开销。
Vercel 发布 Spend Management,可在用量达到设定金额时通过 Web、Email 和 SMS 通知,并支持自动暂停项目。通知在 50%、75%、100% 三个节点触发,SMS 仅在 100% 时发送;同时新增 REST API 可编程暂停和恢复项目。Vercel Functions 在 Pro 计划上最长可运行 5 分钟,默认超时改为 15 秒且可配置。
推荐理由:Vercel 官方发布支出管理功能,独立开发者可据此设置用量告警和自动暂停,避免流量突增带来意外账单。
Railway 在 Launch Week 01 推出 Scale to Zero,Priority Boarding 用户可在服务设置中开启 Enable App Sleeping,无流量时自动停止并启动工作负载,数据库同样适用。
推荐理由:Railway 官方详解 Scale to Zero 的 L4 实现与冷启动延迟,可了解无流量自动休眠的取舍。
Paddle 现在支持 Apple Pay 和 Google Pay 的周期性交易,客户可以用这两种数字钱包支付订阅费用。此前它们只能用于 Paddle Checkout 的一次性购买,Paddle 会在首次付款后保存该支付方式并用于后续续费。
推荐理由:Paddle 把 Apple Pay 和 Google Pay 从一次性付款扩展到订阅续费,开发者无需改代码即可在后台开启。
Bun 1.0 正式发布并进入稳定、可用于生产的状态,它是一个集运行、构建、测试和调试于一体的一体化 JavaScript 与 TypeScript 工具链。Bun 可作为 Node.js 的直接替代品,内置包管理器、Jest 兼容的测试运行器和打包器,官方称启动速度最高比 Node.js 快 4 倍,bun run 平均耗时 7ms。
推荐理由:Bun 1.0 把运行时、包管理、测试与打包整合进单一工具,并给出与 Node.js 各环节的性能对比。
Steve Moraco 借助 Replit 搭建了 iOS 上的 AI 助手 DATA,用 ChatGPT 替代 Siri,几个月内做到 $18k MRR、800 名付费订阅者和 $216,000 ARR。
推荐理由:一位零 Web 开发经验的开发者用 Replit 做出 iOS AI 助手,几个月做到 $18k MRR,可看其搭建与增长路径。
Supabase 宣布新建数据库将默认搭载 pgvector v0.5.0,该版本新增 HNSW 索引,用于高维 embedding 的近似最近邻搜索。在 224,482 条 OpenAI 向量(1536 维)测试中,HNSW 性能约为 IVFFlat 的 3 倍且准确率更高;在 100 万条向量测试中,达到 accuracy@10 0.99 时性能超过 6 倍。
推荐理由:Supabase 新库默认搭载 pgvector v0.5.0,文中给出 HNSW 与 IVFFlat 的 QPS 对比和建索引参数,可据此判断是否迁移。
Replit 发布 Autoscale Deployments 和 Static Deployments 两款托管产品,面向 Hacker 和 Pro 订阅用户开放。
推荐理由:Replit 官方发布 Autoscale 与 Static Deployments,并给出 compute units 分配和按秒计费价格,可据此估算托管成本。
Supabase 宣布把计费系统从按项目订阅改为按组织订阅,每个组织只有一个订阅和单一套餐(Free、Pro、Team 或 Enterprise),项目级附加项如 compute 升级、自定义域名和 PITR 仍按项目配置并计入组织账单。
推荐理由:Supabase 把订阅从按项目改为按组织,并给出免费版与 Pro 版的具体配额和计费变化。
Hugging Face 宣布在自家生态集成 Code Llama,提供 7B、13B、34B 三个参数规模的模型,采用与 Llama 2 相同的社区许可并允许商用。
推荐理由:Hugging Face 官方给出 Code Llama 在自家生态的接入方式、显存建议与基准分数,便于开发者直接选型部署。
OpenAI 宣布开发者现在可以自带数据对 GPT-3.5 Turbo 进行微调,以适配自己的使用场景。该更新属于 GPT-3.5 Turbo 微调与 API 更新的一部分。
推荐理由:OpenAI 开放 GPT-3.5 Turbo 微调,开发者可用自有数据定制模型,值得关注 API 能力变化。