用 Replicate API 运行 Snowflake Arctic 模型
Replicate 上线 Snowflake 开源语言模型 Arctic，可通过一行代码在云端调用，模型标识为 snowflake/snowflake-arctic-instruct。
主题：自动化与工作流
主题：自动化与工作流
今日 12 条Replicate BlogAI 评分4242
Hugging Face Blog精选AI 评分6262 Meta 发布 Llama 3 开源模型，Hugging Face 全面接入
Meta 发布 Llama 3 开源模型，包含 8B 和 70B 两个尺寸，各有 base 和 instruct 版本，另有基于 Llama 3 8B 微调的 Llama Guard 2，共 5 个开放模型上线 Hugging Face。
推荐理由：Meta 发布 Llama 3 并同步接入 Hugging Face 生态，读者可了解模型规格、许可变化与部署方式。
Replicate Blog精选AI 评分6262 Replicate 发布用 API 运行 Meta Llama 3 的教程
Replicate 发布教程，介绍如何用一行代码在云端运行 Meta 的 Llama 3，并给出 JavaScript、Python 和 cURL 三种调用方式。
推荐理由：Replicate 官方给出用 JavaScript、Python 和 cURL 调用 Llama 3 的步骤，并说明四个模型变体的取舍。
Mistral News精选AI 评分6868 Mistral 发布 Mixtral 8x22B 开放模型，Apache 2.0 许可
Mistral 发布最新开放模型 Mixtral 8x22B，采用稀疏 Mixture-of-Experts（SMoE）架构，141B 总参数中仅 39B 激活，以 Apache 2.0 许可开放，可无限制使用。
推荐理由：Mistral 发布 Mixtral 8x22B 开放模型，给出 141B 总参数中仅 39B 激活的稀疏架构与 Apache 2.0 许可，可据此评估自托管与微调成本。
Supabase Blog精选AI 评分6262 Supabase Edge Functions 内置 AI 推理 API，支持 gte-small 生成 embedding
Supabase 在 Edge Functions 的 Edge Runtime 中内置了 Supabase.ai API，用几行代码即可运行 AI 推理，目前支持 gte-small 生成 embedding，并实验性支持 Llama 和 Mistral 等开源 LLM。
推荐理由：Supabase 在 Edge Functions 内置 AI 推理 API，开发者可几行代码生成 embedding，并了解与 OpenAI 的成本对比。
Hugging Face BlogAI 评分2222 用 Gradio 的 reload 模式快速构建 AI 应用
Gradio 推出 reload 模式，用 `gradio app.py` 替代 `python app.py` 启动应用，即可在不重启服务器的情况下拉取源码最新改动。
Vercel NewsAI 评分2222 用 Vercel AI SDK 组合式构建电商 AI 功能实战
Vercel 展示了用 v0、Mistral AI（经 Perplexity）和 Vercel AI SDK 在几小时内复刻亚马逊 AI 评论摘要功能的案例。
Ollama BlogAI 评分4242 Ollama 支持 Embedding 模型，可构建 RAG 应用
Ollama 现已支持 embedding 模型，可生成向量嵌入并构建 RAG 应用，提供 mxbai-embed-large（334M）、nomic-embed-text（137M）、all-minilm（23M）三款模型，并集成 LangChain 与 LlamaIndex。
OpenAI NewsAI 评分3535 OpenAI 改进微调 API 并扩展自定义模型计划
OpenAI 为微调 API 增加新功能，让开发者对微调拥有更多控制权，同时公布构建自定义模型的新方式。官方称此举旨在扩展其自定义模型计划。
Replit BlogAI 评分2222 Replit 如何为代码修复构建 LLM
Replit 正在训练原生代码修复 LLM，用 LSP 诊断数据生成修复 diff。其数据来自用户会话中的 OT 编辑历史和 LSP 诊断，Python 项目中仅 10% 的 LSP 诊断消息自带修复方案，因此用 LLM 合成并验证 diff，目标数据集 10 万条，管线基于 Databricks 上的 PySpark，可再扩展一个数量级。
Hugging Face Blog精选AI 评分6262 Hugging Face 在 Hub 上线 Deploy on Cloudflare Workers AI 集成
Hugging Face 宣布在 Hub 上线 Deploy on Cloudflare Workers AI 集成，开发者可在模型页的 Deploy 菜单选择 Cloudflare Workers AI，通过 Workers AI REST API 或 Cloudflare AI SDK 调用 Llama、Gemma、Mistral 等开源模型，按请求计费、无需自管 GPU。
推荐理由：Hugging Face 与 Cloudflare 的这次集成已下线，但文中按请求计费的推理成本示例仍可作参考。
OpenAI NewsAI 评分2222 OpenAI 分享 Voice Engine 小规模预览的经验：合成语音的挑战与机会
OpenAI 分享了 Voice Engine 小规模预览的经验，这是一款用于创建自定义语音的模型。
OpenAI NewsAI 评分1515 OpenAI 用 GPT-4 让教育数据更易获取
OpenAI 分享了 Zelma 使用 GPT-4 让教育数据更易获取的案例。
Supabase BlogAI 评分2222 用 Amazon Titan 和 Supabase Vector 实现语义图像搜索
Supabase 发布教程，演示如何用 Amazon Titan 多模态模型（amazon.titan-embed-image-v1）配合 Supabase Vector 的 vecs Python 客户端实现语义图像搜索。
OpenAI NewsAI 评分2626 JetBrains 用 OpenAI API 打造增长最快的产品
JetBrains 借助 OpenAI 的 API 打造出公司史上增长最快的产品。该产品将 AI 能力嵌入开发者软件，具体功能、定价与上线时间未在原文披露。
OpenAI NewsAI 评分2222 Superhuman 用 OpenAI 重新构想邮件体验
Superhuman 宣布与 OpenAI 合作，推出由 AI 驱动的新一代邮件体验。官方称这标志着邮件进入新阶段，但未披露具体功能、定价或上线时间。
Vercel News精选AI 评分6262 Vercel 发布 AI SDK 3.0，支持 Generative UI
Vercel 发布 AI SDK 3.0，新增 Generative UI 能力，可通过 render 方法把 LLM 响应关联到流式 React Server Components，让模型调用工具后直接渲染自定义 UI，例如查询实时天气并返回组件。
推荐理由：Vercel 官方发布 AI SDK 3.0，把 LLM 响应映射到流式 React Server Components，并说明了对框架与模型的支持边界。
Mistral News精选AI 评分6262 Mistral 发布旗舰模型 Mistral Large 并上架 Azure
Mistral 发布旗舰文本生成模型 Mistral Large，可通过 la Plateforme 和 Azure 使用，Azure 是其首个分发合作伙伴。该模型支持 32K tokens 上下文窗口、原生函数调用和 JSON 格式输出，官方称其在常用基准测试中位列 API 可用模型第二（仅次于 GPT-4）。
推荐理由：Mistral 官方发布旗舰模型 Mistral Large 并首次上架 Azure，可了解其能力定位与端点调整。
Supabase BlogAI 评分3030 用 Flutter 和 OpenAI 构建内容推荐应用
Supabase 发布教程，演示如何用 Flutter、OpenAI API、TMDB API 和 Supabase 构建一个电影推荐应用。
Hugging Face Blog精选AI 评分6868 Hugging Face 用开源 LLM 合成数据训练小模型，成本从 $3061 降到 $2.7
Hugging Face 发布教程，演示用开源 Mixtral-8x7B-Instruct-v0.1 生成合成数据，再微调出约 0.13B 参数的 RoBERTa-base 模型做金融新闻投资者情绪分类。
推荐理由：Hugging Face 用开源 LLM 生成合成数据再蒸馏小模型，给出成本、延迟与碳排放的完整对比。
Supabase Blog精选AI 评分6262 Supabase 实测 Matryoshka 嵌入：用 Adaptive Retrieval 加速 OpenAI 向量检索
Supabase 实测了 OpenAI text-embedding-3 系列嵌入的 Matryoshka 特性，用 100 万条 dbpedia 向量验证 Adaptive Retrieval 两段式检索。
推荐理由：Supabase 用 100 万条向量实测了 OpenAI 新嵌入模型的降维检索，给出可复用的两段式查询参数。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 TGI 推出兼容 OpenAI 的 Messages API
Hugging Face 为 Text Generation Inference（TGI）推出 Messages API，从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口，并同步上线 Inference Endpoints 的专用与无服务器版本。
推荐理由：Hugging Face 官方发布 TGI 的 Messages API，给出从 OpenAI 迁移到开源模型的代码示例与限制说明。
Ollama BlogAI 评分6262 Ollama 内置兼容 OpenAI Chat Completions API
Ollama 宣布内置兼容 OpenAI Chat Completions API，可在本地用同一套 OpenAI 格式调用模型，只需把 hostname 改为 http://localhost:11434。
Replicate BlogAI 评分4242 用 API 在 Replicate 上运行 Code Llama 70B
Meta 发布 70B 参数的 Code Llama，在 HumanEval 上得分 67.8，超过零样本 GPT-4。Replicate 上线该模型，提供 Base、Python、Instruct 三个变体，可用 JavaScript、Python、cURL 一行代码调用 meta/codellama-70b-instruct。
Hugging Face Blog精选AI 评分6262 如何在 Hugging Face Spaces 上用 Gradio 免费运行 ComfyUI 工作流
这篇教程分步讲解如何把复杂的 ComfyUI 工作流转成简单的 Gradio 应用，并部署到 Hugging Face Spaces 的 ZeroGPU 无服务器结构上免费运行。
推荐理由：原文给出把 ComfyUI 工作流转成 Gradio 应用并部署到 Hugging Face Spaces ZeroGPU 的完整步骤，可照着复现。
OpenAI NewsAI 评分1212 OpenAI 与 Digital Green 合作为农民搭建农业数据库
Digital Green 使用 OpenAI 为农民搭建农业数据库，目标是提高农民收入。
Neon Blog精选AI 评分5858 OpenAI GPT Store 上线，Neon 发布定制 Postgres GPT 专家
OpenAI 的 GPT Store 已上线，Neon 借此发布了一个定制的 Neon 和 PostgreSQL OpenAI GPT 专家，用于回答 PostgreSQL 或 Neon 相关问题、协助项目。OpenAI 的 GPT 允许开发者创建定制 ChatGPT 体验，以执行特定任务或回答某一主题的问题。
推荐理由：Neon 借 OpenAI GPT Store 上线发布自家 PostgreSQL 定制 GPT，可了解数据库厂商如何接入 GPT 生态。
Hugging Face Blog精选AI 评分6262 Unsloth 与 TRL 集成：LLM 微调提速 2 倍、显存最多降 74%
Hugging Face 博客介绍社区轻量库 Unsloth，与 transformers、PEFT、TRL 完全兼容，通过将 PyTorch 模块改写为 Triton kernel 实现微调加速，官方称相比标准 QLoRA 精度损失为 0%。
推荐理由：原文给出 Unsloth 与 TRL 的集成方式和 59 次基准测试数据，可据此判断是否替换现有微调流程。
OpenAI NewsAI 评分2020 WHOOP 用 GPT-4 提供个性化健身与健康指导
WHOOP 借助 GPT-4 提供个性化的健身与健康指导。该健康解决方案由 LLM 驱动，面向用户的日常训练与健康管理场景。
Mistral News精选AI 评分7878 Mistral AI 发布开放权重模型 Mixtral 8x7B
Mistral AI 发布稀疏专家混合模型 Mixtral 8x7B，采用 Apache 2.0 许可开放权重，在多数基准上超过或持平 Llama 2 70B 与 GPT3.5，推理速度比 Llama 2 70B 快 6 倍。
推荐理由：Mistral 发布 Apache 2.0 许可的开放权重模型，给出与 Llama 2 70B、GPT3.5 的基准对比和部署方式。
Replicate BlogAI 评分2222 Replicate 教程：如何用 GPT-4-Vision、Llava 13B 和 ElevenLabs 打造你自己的 AI 旁白
Replicate 发布教程，讲解如何用视觉模型、语言模型和文本转语音模型搭建一个实时解说生活的 AI 旁白。视觉部分推荐开源模型 Llava 13B，在 A40 GPU 上每秒 $0.000725、单次请求约 $0.0017；也可用 GPT-4-Vision，250px×140px 图像 $0.00255 加每 1K 输出 token $0.03。
Replicate BlogAI 评分3838 用开源模型克隆你的声音：Replicate 上的 RVC 语音克隆教程
Replicate 发布教程，演示如何用开源模型 Realistic Voice Cloning（RVC）克隆任意声音。
Replicate BlogAI 评分2626 Replicate 获 a16z 领投 4000 万美元 B 轮：企业正在开源 AI 上构建业务
Replicate 完成由 a16z 领投的 4000 万美元 B 轮融资，NVIDIA 旗下 NVentures、Heavybit、Sequoia 和 Y Combinator 参投。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Optimum-NVIDIA，一行代码加速 LLM 推理
Hugging Face 发布推理库 Optimum-NVIDIA，只需把 transformers 的 pipeline 导入改成 optimum.nvidia 一行代码，即可在 NVIDIA 平台获得最高 28 倍吞吐提升和 1,200 tokens/秒，首 token 延迟最高快 3.3 倍。
推荐理由：Hugging Face 官方发布 Optimum-NVIDIA，给出改一行代码即可提速的实测数据与代码示例。
Hugging Face BlogAI 评分3434 Hugging Face 如何让 LoRA 推理提速 300%：告别冷启动
Hugging Face 通过在同一基础模型上动态换载 LoRA 适配器，把 LoRA 推理的冷启动时间从 25s 降到 3s，用户请求响应时间从 35s 降到 13s。Hub 上约 2500 个公开 LoRA 中约 92% 基于 Stable Diffusion XL Base 1.0，此前每个都需单独部署 GPU，如今仅用不到 5 张 A10G 即可服务数百个不同 LoRA。
Replit BlogAI 评分2727 Replit + Weights & Biases：如何构建一个 RAG 问答机器人 WandBot
Weights & Biases 基于 llama-index、FAISS 向量库、Cohere embeddings 和 OpenAI GPT-4 构建了 RAG 问答机器人 WandBot，并托管在 Replit 上，可接入 Discord、Slack、Zendesk 和 ChatGPT GPTs。
Replicate Blog精选AI 评分6262 Replicate 教程：用开源 BGE 模型生成更便宜更快的文本嵌入
Replicate 发布教程，演示如何用 BAAI/bge-large-en-v1.5 模型生成文本嵌入，并给出从文本列表、JSONL 文件到 SAMSum 数据集的完整代码流程。
推荐理由：Replicate 官方给出用 BGE 模型生成文本嵌入的完整流程，并实测其成本低于 OpenAI Ada v2。
OpenAI NewsAI 评分2222 OpenAI 数据合作计划：共建 AI 训练用开源与私有数据集
OpenAI 推出 Data Partnerships，与各方合作创建用于 AI 训练的开源和私有数据集。该计划面向希望参与构建训练数据的机构，具体合作方式与定价未在公告中披露。
Hugging Face Blog精选AI 评分7676 Hugging Face 发布 LCM LoRA，让 SDXL 4 步出图
Hugging Face 发布 Latent Consistency LoRA，通过只训练少量 LoRA 适配层而非蒸馏整个模型，把 Stable Diffusion 和 SDXL 的推理步数从 25 到 50 步降到 4 到 8 步。
推荐理由：Hugging Face 发布 LCM LoRA，把 SDXL 推理从 25 步压到 4 步，并给出各硬件实测耗时。
OpenAI News精选AI 评分7878 OpenAI 在 DevDay 发布 GPT-4 Turbo、Assistants API 等新模型与开发者产品
OpenAI 在 DevDay 上发布 GPT-4 Turbo，支持 128K 上下文且价格更低，同时推出 Assistants API、带视觉能力的 GPT-4 Turbo 以及 DALL·E 3 API 等开发者产品。材料仅提供摘要，未给出具体价格数字与各产品的详细能力说明。
推荐理由：OpenAI 在 DevDay 一次性公布新模型与开发者产品，可据此了解模型能力与 API 价格的变化方向。