Mistral 推出非生产许可 MNPL,Codestral 首个适用
Mistral AI 发布非生产许可 MNPL,允许开发者将模型用于非商业用途并支持研究工作,商业使用则需另行安排。新发布的 Codestral 是首个采用该许可的模型,Mistral 表示仍会继续以 Apache 2.0 发布部分模型和代码,逐步形成 Apache 2.0 与 MNPL 两条产品线。
推荐理由:Mistral 推出非生产许可 MNPL,明确商业使用需另议,开发者可据此判断自家产品能否继续免费调用其模型。
写代码这件事正在被工具改写:编辑器与 Agent、订阅分层与额度、把「做产品」的边际成本压到多低。
Mistral AI 发布非生产许可 MNPL,允许开发者将模型用于非商业用途并支持研究工作,商业使用则需另行安排。新发布的 Codestral 是首个采用该许可的模型,Mistral 表示仍会继续以 Apache 2.0 发布部分模型和代码,逐步形成 Apache 2.0 与 MNPL 两条产品线。
推荐理由:Mistral 推出非生产许可 MNPL,明确商业使用需另议,开发者可据此判断自家产品能否继续免费调用其模型。
OpenAI 宣布推出新旗舰模型 GPT-4 Omni(GPT-4o),可实时跨音频、视觉和文本进行推理。该模型被定位为 OpenAI 的新旗舰模型。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,可实时跨音频、视觉和文本推理,关注模型能力变化的读者可了解其定位。
OpenAI 发布最新旗舰模型 GPT-4o,同时把更多能力开放给 ChatGPT 免费用户。官方称此次发布包含新旗舰模型上线,以及面向免费用户的功能扩展。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,并首次把更多能力开放给 ChatGPT 免费用户。
OpenAI 发布 GPT-4o,并让 ChatGPT 免费用户获得更多能力。材料仅给出这一条摘要,未披露 GPT-4o 的具体能力、价格或上线范围。
推荐理由:OpenAI 发布 GPT-4o,并让 ChatGPT 免费用户获得更多能力,可了解模型与免费策略的同步变化。
Vercel 发布 AI SDK 3.1,并宣布 ModelFusion 团队加入。新版本包含 AI SDK Core、AI SDK UI 和 AI SDK RSC 三部分。
推荐理由:Vercel 官方发布 AI SDK 3.1,统一多家模型调用接口并新增 streamUI,可据此评估是否替换现有 LLM 集成方案。
OpenAI 宣布 GPT-4 API 正式可用,GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步正式可用。OpenAI 同时公布旧版 Completions API 模型的弃用计划,这些模型将于 2024 年初退役。
推荐理由:OpenAI 宣布 GPT-4 API 正式可用,并给出旧版 Completions API 模型的退役时间表。
OpenAI 发布 ChatGPT 和 Whisper 的 API。
Meta 发布 Llama 3 开源模型,包含 8B 和 70B 两个尺寸,各有 base 和 instruct 版本,另有基于 Llama 3 8B 微调的 Llama Guard 2,共 5 个开放模型上线 Hugging Face。
推荐理由:Meta 发布 Llama 3 并同步接入 Hugging Face 生态,读者可了解模型规格、许可变化与部署方式。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta 的 Llama 3,并给出 JavaScript、Python 和 cURL 三种调用方式。
推荐理由:Replicate 官方给出用 JavaScript、Python 和 cURL 调用 Llama 3 的步骤,并说明四个模型变体的取舍。
Mistral 发布最新开放模型 Mixtral 8x22B,采用稀疏 Mixture-of-Experts(SMoE)架构,141B 总参数中仅 39B 激活,以 Apache 2.0 许可开放,可无限制使用。
推荐理由:Mistral 发布 Mixtral 8x22B 开放模型,给出 141B 总参数中仅 39B 激活的稀疏架构与 Apache 2.0 许可,可据此评估自托管与微调成本。
Supabase 在 Edge Functions 的 Edge Runtime 中内置了 Supabase.ai API,用几行代码即可运行 AI 推理,目前支持 gte-small 生成 embedding,并实验性支持 Llama 和 Mistral 等开源 LLM。
推荐理由:Supabase 在 Edge Functions 内置 AI 推理 API,开发者可几行代码生成 embedding,并了解与 OpenAI 的成本对比。
Hugging Face 宣布在 Hub 上线 Deploy on Cloudflare Workers AI 集成,开发者可在模型页的 Deploy 菜单选择 Cloudflare Workers AI,通过 Workers AI REST API 或 Cloudflare AI SDK 调用 Llama、Gemma、Mistral 等开源模型,按请求计费、无需自管 GPU。
推荐理由:Hugging Face 与 Cloudflare 的这次集成已下线,但文中按请求计费的推理成本示例仍可作参考。
Vercel 发布 AI SDK 3.0,新增 Generative UI 能力,可通过 render 方法把 LLM 响应关联到流式 React Server Components,让模型调用工具后直接渲染自定义 UI,例如查询实时天气并返回组件。
推荐理由:Vercel 官方发布 AI SDK 3.0,把 LLM 响应映射到流式 React Server Components,并说明了对框架与模型的支持边界。
Mistral 发布旗舰文本生成模型 Mistral Large,可通过 la Plateforme 和 Azure 使用,Azure 是其首个分发合作伙伴。该模型支持 32K tokens 上下文窗口、原生函数调用和 JSON 格式输出,官方称其在常用基准测试中位列 API 可用模型第二(仅次于 GPT-4)。
推荐理由:Mistral 官方发布旗舰模型 Mistral Large 并首次上架 Azure,可了解其能力定位与端点调整。
Hugging Face 发布教程,演示用开源 Mixtral-8x7B-Instruct-v0.1 生成合成数据,再微调出约 0.13B 参数的 RoBERTa-base 模型做金融新闻投资者情绪分类。
推荐理由:Hugging Face 用开源 LLM 生成合成数据再蒸馏小模型,给出成本、延迟与碳排放的完整对比。
Supabase 实测了 OpenAI text-embedding-3 系列嵌入的 Matryoshka 特性,用 100 万条 dbpedia 向量验证 Adaptive Retrieval 两段式检索。
推荐理由:Supabase 用 100 万条向量实测了 OpenAI 新嵌入模型的降维检索,给出可复用的两段式查询参数。
Hugging Face 为 Text Generation Inference(TGI)推出 Messages API,从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口,并同步上线 Inference Endpoints 的专用与无服务器版本。
推荐理由:Hugging Face 官方发布 TGI 的 Messages API,给出从 OpenAI 迁移到开源模型的代码示例与限制说明。
这篇教程分步讲解如何把复杂的 ComfyUI 工作流转成简单的 Gradio 应用,并部署到 Hugging Face Spaces 的 ZeroGPU 无服务器结构上免费运行。
推荐理由:原文给出把 ComfyUI 工作流转成 Gradio 应用并部署到 Hugging Face Spaces ZeroGPU 的完整步骤,可照着复现。
OpenAI 的 GPT Store 已上线,Neon 借此发布了一个定制的 Neon 和 PostgreSQL OpenAI GPT 专家,用于回答 PostgreSQL 或 Neon 相关问题、协助项目。OpenAI 的 GPT 允许开发者创建定制 ChatGPT 体验,以执行特定任务或回答某一主题的问题。
推荐理由:Neon 借 OpenAI GPT Store 上线发布自家 PostgreSQL 定制 GPT,可了解数据库厂商如何接入 GPT 生态。
OpenAI 发布 GPT Store。材料仅提供标题,暂无更多细节。