Replicate 即将支持 NVIDIA H100 GPU
Replicate 宣布即将新增对 NVIDIA H100 GPU 的支持，此前平台已支持 NVIDIA T4、A40、A100 GPU 以及 CPU。想提前体验 H100 的用户可发邮件至 [email protected] 申请早期访问。
主题：认证与账号体系
主题：认证与账号体系
今日 8 条Replicate BlogAI 评分3131 Replicate BlogAI 评分3838 用 Replicate API 运行 Stable Diffusion 3
Replicate 上线 Stability 最新的文生图模型 Stable Diffusion 3，可通过一行代码调用，模型标识为 stability-ai/stable-diffusion-3。
Mistral News精选AI 评分6262 Mistral 在 la Plateforme 推出模型微调能力
Mistral AI 在 la Plateforme 上线模型定制功能，提供三种微调入口：开源微调 SDK mistral-finetune、la Plateforme 上的无服务器微调服务，以及面向特定客户的定制训练服务。
推荐理由：Mistral 官方发布微调能力，给出开源 SDK、托管服务与定制训练三条路径，便于开发者按成本与数据条件选择。
Mistral NewsAI 评分1717 Mistral AI 举办微调黑客松：用全新 fine-tuning API 参赛，前 3 名各得 €2,500 API 额度
Mistral AI 于 2024 年 6 月 5 日至 30 日举办线上微调黑客松，参赛项目必须使用其全新的 fine-tuning API，前 3 名各获 €2,500 Mistral API 额度。
OpenAI NewsAI 评分2525 MavenAGI 推出基于 GPT-4 的 AI 客服代理
MavenAGI 推出一款基于 GPT-4 的 AI 客服代理，Tripadvisor、Clickup 和 Rho 等公司已在使用，用于节省时间并更好地服务客户。
Mistral News精选AI 评分6262 Mistral 发布首个代码模型 Codestral，22B 参数支持 80+ 语言
Mistral 发布首个代码模型 Codestral，22B 参数、32k 上下文，支持 80+ 编程语言，可完成代码补全、写测试和 fill-in-the-middle。
推荐理由：Mistral 首个代码模型 Codestral 的规格、基准与接入方式，适合关注代码补全选型的开发者参考。
Mistral News精选AI 评分6262 Mistral 推出非生产许可 MNPL，Codestral 首个适用
Mistral AI 发布非生产许可 MNPL，允许开发者将模型用于非商业用途并支持研究工作，商业使用则需另行安排。新发布的 Codestral 是首个采用该许可的模型，Mistral 表示仍会继续以 Apache 2.0 发布部分模型和代码，逐步形成 Apache 2.0 与 MNPL 两条产品线。
推荐理由：Mistral 推出非生产许可 MNPL，明确商业使用需另议，开发者可据此判断自家产品能否继续免费调用其模型。
Hugging Face BlogAI 评分5050 Hugging Face 在 Inference Endpoints 上线 AWS Inferentia2 实例
Hugging Face 为 Inference Endpoints 新增 AWS Inferentia2 实例，用户可在 Amazon Web Services 实例配置中选择 Inf2 选项，几步点击即可部署模型。
OpenAI NewsAI 评分2222 ChatGPT 数据分析功能改进：支持表格图表交互与 Google Drive、Microsoft OneDrive 直接添加文件
ChatGPT 的数据分析功能获得改进，用户现在可以与表格和图表进行交互，并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
OpenAI News精选AI 评分6262 OpenAI 发布新旗舰模型 GPT-4o，可实时跨音频、视觉和文本推理
OpenAI 宣布推出新旗舰模型 GPT-4 Omni（GPT-4o），可实时跨音频、视觉和文本进行推理。该模型被定位为 OpenAI 的新旗舰模型。
推荐理由：OpenAI 发布新旗舰模型 GPT-4o，可实时跨音频、视觉和文本推理，关注模型能力变化的读者可了解其定位。
OpenAI News精选AI 评分6262 OpenAI 发布 GPT-4o，并向 ChatGPT 免费用户开放更多工具
OpenAI 发布最新旗舰模型 GPT-4o，同时把更多能力开放给 ChatGPT 免费用户。官方称此次发布包含新旗舰模型上线，以及面向免费用户的功能扩展。
推荐理由：OpenAI 发布新旗舰模型 GPT-4o，并首次把更多能力开放给 ChatGPT 免费用户。
Vercel NewsAI 评分2222 Vercel 分享 7 个可立即加入应用的 AI 功能
Vercel 发文列出 7 个可立即加入应用的 AI 功能，包括语义搜索、自然聊天机器人、个性化推荐、即时本地化等。文中举例 Klarna 的 OpenAI 聊天机器人客户满意度与人工相当，解决问题快 80%，承担 700 名全职客服的工作量，带来 $40M 净收入。Vercel 提供原生 AI 支持及全托管的扩缩容、流式与缓存基础设施，按实际用量付费。
OpenAI NewsAI 评分2222 OpenAI 与 Stack Overflow 达成 API 合作
Stack Overflow 与 OpenAI 宣布达成 API 合作，将把 Stack Overflow 的技术知识平台与 OpenAI 的 LLM 模型能力结合，帮助开发者。
Hugging Face BlogAI 评分3838 Artificial Analysis 的 LLM 性能排行榜登陆 Hugging Face
Artificial Analysis 开发的 LLM 性能排行榜现已上线 Hugging Face，覆盖超过 100 个 serverless LLM API 端点，综合对比质量、价格与速度。
Vercel News精选AI 评分6060 Vercel 发布 AI SDK 3.1，ModelFusion 团队加入
Vercel 发布 AI SDK 3.1，并宣布 ModelFusion 团队加入。新版本包含 AI SDK Core、AI SDK UI 和 AI SDK RSC 三部分。
推荐理由：Vercel 官方发布 AI SDK 3.1，统一多家模型调用接口并新增 streamUI，可据此评估是否替换现有 LLM 集成方案。
OpenAI News精选AI 评分6060 OpenAI 宣布 GPT-4 API 正式可用，并公布旧版 Completions API 模型退役计划
OpenAI 宣布 GPT-4 API 正式可用，GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步正式可用。OpenAI 同时公布旧版 Completions API 模型的弃用计划，这些模型将于 2024 年初退役。
推荐理由：OpenAI 宣布 GPT-4 API 正式可用，并给出旧版 Completions API 模型的退役时间表。
OpenAI News精选AI 评分6262 OpenAI 推出 ChatGPT 和 Whisper API
OpenAI 发布 ChatGPT 和 Whisper 的 API。
OpenAI NewsAI 评分2222 OpenAI 为 API 客户推出更多企业级功能
OpenAI 为 API 客户新增更多企业级功能，包括更多安全功能与控制项、Assistants API 的更新，以及帮助更好管理成本的工具，同时加强企业支持。
Replicate BlogAI 评分4242 用 Replicate API 运行 Snowflake Arctic 模型
Replicate 上线 Snowflake 开源语言模型 Arctic，可通过一行代码在云端调用，模型标识为 snowflake/snowflake-arctic-instruct。
Hugging Face Blog精选AI 评分6262 Meta 发布 Llama 3 开源模型，Hugging Face 全面接入
Meta 发布 Llama 3 开源模型，包含 8B 和 70B 两个尺寸，各有 base 和 instruct 版本，另有基于 Llama 3 8B 微调的 Llama Guard 2，共 5 个开放模型上线 Hugging Face。
推荐理由：Meta 发布 Llama 3 并同步接入 Hugging Face 生态，读者可了解模型规格、许可变化与部署方式。
Replicate Blog精选AI 评分6262 Replicate 发布用 API 运行 Meta Llama 3 的教程
Replicate 发布教程，介绍如何用一行代码在云端运行 Meta 的 Llama 3，并给出 JavaScript、Python 和 cURL 三种调用方式。
推荐理由：Replicate 官方给出用 JavaScript、Python 和 cURL 调用 Llama 3 的步骤，并说明四个模型变体的取舍。
Mistral News精选AI 评分6868 Mistral 发布 Mixtral 8x22B 开放模型，Apache 2.0 许可
Mistral 发布最新开放模型 Mixtral 8x22B，采用稀疏 Mixture-of-Experts（SMoE）架构，141B 总参数中仅 39B 激活，以 Apache 2.0 许可开放，可无限制使用。
推荐理由：Mistral 发布 Mixtral 8x22B 开放模型，给出 141B 总参数中仅 39B 激活的稀疏架构与 Apache 2.0 许可，可据此评估自托管与微调成本。
Supabase Blog精选AI 评分6262 Supabase Edge Functions 内置 AI 推理 API，支持 gte-small 生成 embedding
Supabase 在 Edge Functions 的 Edge Runtime 中内置了 Supabase.ai API，用几行代码即可运行 AI 推理，目前支持 gte-small 生成 embedding，并实验性支持 Llama 和 Mistral 等开源 LLM。
推荐理由：Supabase 在 Edge Functions 内置 AI 推理 API，开发者可几行代码生成 embedding，并了解与 OpenAI 的成本对比。
Hugging Face BlogAI 评分2222 用 Gradio 的 reload 模式快速构建 AI 应用
Gradio 推出 reload 模式，用 `gradio app.py` 替代 `python app.py` 启动应用，即可在不重启服务器的情况下拉取源码最新改动。
Vercel NewsAI 评分2222 用 Vercel AI SDK 组合式构建电商 AI 功能实战
Vercel 展示了用 v0、Mistral AI（经 Perplexity）和 Vercel AI SDK 在几小时内复刻亚马逊 AI 评论摘要功能的案例。
Ollama BlogAI 评分4242 Ollama 支持 Embedding 模型，可构建 RAG 应用
Ollama 现已支持 embedding 模型，可生成向量嵌入并构建 RAG 应用，提供 mxbai-embed-large（334M）、nomic-embed-text（137M）、all-minilm（23M）三款模型，并集成 LangChain 与 LlamaIndex。
OpenAI NewsAI 评分3535 OpenAI 改进微调 API 并扩展自定义模型计划
OpenAI 为微调 API 增加新功能，让开发者对微调拥有更多控制权，同时公布构建自定义模型的新方式。官方称此举旨在扩展其自定义模型计划。
Replit BlogAI 评分2222 Replit 如何为代码修复构建 LLM
Replit 正在训练原生代码修复 LLM，用 LSP 诊断数据生成修复 diff。其数据来自用户会话中的 OT 编辑历史和 LSP 诊断，Python 项目中仅 10% 的 LSP 诊断消息自带修复方案，因此用 LLM 合成并验证 diff，目标数据集 10 万条，管线基于 Databricks 上的 PySpark，可再扩展一个数量级。
Hugging Face Blog精选AI 评分6262 Hugging Face 在 Hub 上线 Deploy on Cloudflare Workers AI 集成
Hugging Face 宣布在 Hub 上线 Deploy on Cloudflare Workers AI 集成，开发者可在模型页的 Deploy 菜单选择 Cloudflare Workers AI，通过 Workers AI REST API 或 Cloudflare AI SDK 调用 Llama、Gemma、Mistral 等开源模型，按请求计费、无需自管 GPU。
推荐理由：Hugging Face 与 Cloudflare 的这次集成已下线，但文中按请求计费的推理成本示例仍可作参考。
OpenAI NewsAI 评分2222 OpenAI 分享 Voice Engine 小规模预览的经验：合成语音的挑战与机会
OpenAI 分享了 Voice Engine 小规模预览的经验，这是一款用于创建自定义语音的模型。
OpenAI NewsAI 评分1515 OpenAI 用 GPT-4 让教育数据更易获取
OpenAI 分享了 Zelma 使用 GPT-4 让教育数据更易获取的案例。
Supabase BlogAI 评分2222 用 Amazon Titan 和 Supabase Vector 实现语义图像搜索
Supabase 发布教程，演示如何用 Amazon Titan 多模态模型（amazon.titan-embed-image-v1）配合 Supabase Vector 的 vecs Python 客户端实现语义图像搜索。
OpenAI NewsAI 评分2626 JetBrains 用 OpenAI API 打造增长最快的产品
JetBrains 借助 OpenAI 的 API 打造出公司史上增长最快的产品。该产品将 AI 能力嵌入开发者软件，具体功能、定价与上线时间未在原文披露。
OpenAI NewsAI 评分2222 Superhuman 用 OpenAI 重新构想邮件体验
Superhuman 宣布与 OpenAI 合作，推出由 AI 驱动的新一代邮件体验。官方称这标志着邮件进入新阶段，但未披露具体功能、定价或上线时间。
Vercel News精选AI 评分6262 Vercel 发布 AI SDK 3.0，支持 Generative UI
Vercel 发布 AI SDK 3.0，新增 Generative UI 能力，可通过 render 方法把 LLM 响应关联到流式 React Server Components，让模型调用工具后直接渲染自定义 UI，例如查询实时天气并返回组件。
推荐理由：Vercel 官方发布 AI SDK 3.0，把 LLM 响应映射到流式 React Server Components，并说明了对框架与模型的支持边界。
Mistral News精选AI 评分6262 Mistral 发布旗舰模型 Mistral Large 并上架 Azure
Mistral 发布旗舰文本生成模型 Mistral Large，可通过 la Plateforme 和 Azure 使用，Azure 是其首个分发合作伙伴。该模型支持 32K tokens 上下文窗口、原生函数调用和 JSON 格式输出，官方称其在常用基准测试中位列 API 可用模型第二（仅次于 GPT-4）。
推荐理由：Mistral 官方发布旗舰模型 Mistral Large 并首次上架 Azure，可了解其能力定位与端点调整。
Supabase BlogAI 评分3030 用 Flutter 和 OpenAI 构建内容推荐应用
Supabase 发布教程，演示如何用 Flutter、OpenAI API、TMDB API 和 Supabase 构建一个电影推荐应用。
Hugging Face Blog精选AI 评分6868 Hugging Face 用开源 LLM 合成数据训练小模型，成本从 $3061 降到 $2.7
Hugging Face 发布教程，演示用开源 Mixtral-8x7B-Instruct-v0.1 生成合成数据，再微调出约 0.13B 参数的 RoBERTa-base 模型做金融新闻投资者情绪分类。
推荐理由：Hugging Face 用开源 LLM 生成合成数据再蒸馏小模型，给出成本、延迟与碳排放的完整对比。
Supabase Blog精选AI 评分6262 Supabase 实测 Matryoshka 嵌入：用 Adaptive Retrieval 加速 OpenAI 向量检索
Supabase 实测了 OpenAI text-embedding-3 系列嵌入的 Matryoshka 特性，用 100 万条 dbpedia 向量验证 Adaptive Retrieval 两段式检索。
推荐理由：Supabase 用 100 万条向量实测了 OpenAI 新嵌入模型的降维检索，给出可复用的两段式查询参数。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 TGI 推出兼容 OpenAI 的 Messages API
Hugging Face 为 Text Generation Inference（TGI）推出 Messages API，从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口，并同步上线 Inference Endpoints 的专用与无服务器版本。
推荐理由：Hugging Face 官方发布 TGI 的 Messages API，给出从 OpenAI 迁移到开源模型的代码示例与限制说明。