最新精选
第 201–220 条 · 共 237 条Supabase 在 Edge Functions 的 Edge Runtime 中内置了 Supabase.ai API,用几行代码即可运行 AI 推理,目前支持 gte-small 生成 embedding,并实验性支持 Llama 和 Mistral 等开源 LLM。
推荐理由:Supabase 在 Edge Functions 内置 AI 推理 API,开发者可几行代码生成 embedding,并了解与 OpenAI 的成本对比。
Vercel 发布 AI SDK 3.0,新增 Generative UI 能力,可通过 render 方法把 LLM 响应关联到流式 React Server Components,让模型调用工具后直接渲染自定义 UI,例如查询实时天气并返回组件。
推荐理由:Vercel 官方发布 AI SDK 3.0,把 LLM 响应映射到流式 React Server Components,并说明了对框架与模型的支持边界。
- Hugging Face Blog精选AI 评分6868
Hugging Face 发布教程,演示用开源 Mixtral-8x7B-Instruct-v0.1 生成合成数据,再微调出约 0.13B 参数的 RoBERTa-base 模型做金融新闻投资者情绪分类。
推荐理由:Hugging Face 用开源 LLM 生成合成数据再蒸馏小模型,给出成本、延迟与碳排放的完整对比。
Supabase 实测了 OpenAI text-embedding-3 系列嵌入的 Matryoshka 特性,用 100 万条 dbpedia 向量验证 Adaptive Retrieval 两段式检索。
推荐理由:Supabase 用 100 万条向量实测了 OpenAI 新嵌入模型的降维检索,给出可复用的两段式查询参数。
- Hugging Face Blog精选AI 评分6262
Hugging Face 为 Text Generation Inference(TGI)推出 Messages API,从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口,并同步上线 Inference Endpoints 的专用与无服务器版本。
推荐理由:Hugging Face 官方发布 TGI 的 Messages API,给出从 OpenAI 迁移到开源模型的代码示例与限制说明。
OpenAI 的 GPT Store 已上线,Neon 借此发布了一个定制的 Neon 和 PostgreSQL OpenAI GPT 专家,用于回答 PostgreSQL 或 Neon 相关问题、协助项目。OpenAI 的 GPT 允许开发者创建定制 ChatGPT 体验,以执行特定任务或回答某一主题的问题。
推荐理由:Neon 借 OpenAI GPT Store 上线发布自家 PostgreSQL 定制 GPT,可了解数据库厂商如何接入 GPT 生态。
OpenAI 发布 GPT Store。材料仅提供标题,暂无更多细节。
Replit 发布 Replit Core 会员,把原有 Hacker 和 Pro 订阅合并为单一计划,现有订阅者按原价自动迁移。
推荐理由:Replit 把原有 Hacker 与 Pro 订阅合并为单一会员 Replit Core,并公布限时年费与迁移安排,可对照其权益变化。
- Replicate Blog精选AI 评分6262
Replicate 发布教程,演示如何用 BAAI/bge-large-en-v1.5 模型生成文本嵌入,并给出从文本列表、JSONL 文件到 SAMSum 数据集的完整代码流程。
推荐理由:Replicate 官方给出用 BGE 模型生成文本嵌入的完整流程,并实测其成本低于 OpenAI Ada v2。
OpenAI 在 DevDay 上发布 GPT-4 Turbo,支持 128K 上下文且价格更低,同时推出 Assistants API、带视觉能力的 GPT-4 Turbo 以及 DALL·E 3 API 等开发者产品。材料仅提供摘要,未给出具体价格数字与各产品的详细能力说明。
推荐理由:OpenAI 在 DevDay 一次性公布新模型与开发者产品,可据此了解模型能力与 API 价格的变化方向。
OpenAI 宣布用户现在可以创建自定义版本的 ChatGPT,把指令、额外知识和任意技能组合在一起。该功能由 OpenAI 官方发布,具体使用方式和开放范围原文未作进一步说明。
推荐理由:OpenAI 官方宣布可创建自定义版 ChatGPT,读者可了解 GPTs 的组成要素与开放范围。
Supabase 用 dbpedia 的 100 万条 OpenAI embeddings(1536 维)对比 pgvector 与 Pinecone 的查询性能和成本。
推荐理由:Supabase 用同一数据集对比 pgvector 与 Pinecone 的 QPS、精度和月成本,可据此估算向量检索方案的开销。
OpenAI 宣布 ChatGPT 现在可以看、听和说话。
Steve Moraco 借助 Replit 搭建了 iOS 上的 AI 助手 DATA,用 ChatGPT 替代 Siri,几个月内做到 $18k MRR、800 名付费订阅者和 $216,000 ARR。
推荐理由:一位零 Web 开发经验的开发者用 Replit 做出 iOS AI 助手,几个月做到 $18k MRR,可看其搭建与增长路径。
Supabase 宣布新建数据库将默认搭载 pgvector v0.5.0,该版本新增 HNSW 索引,用于高维 embedding 的近似最近邻搜索。在 224,482 条 OpenAI 向量(1536 维)测试中,HNSW 性能约为 IVFFlat 的 3 倍且准确率更高;在 100 万条向量测试中,达到 accuracy@10 0.99 时性能超过 6 倍。
推荐理由:Supabase 新库默认搭载 pgvector v0.5.0,文中给出 HNSW 与 IVFFlat 的 QPS 对比和建索引参数,可据此判断是否迁移。
OpenAI 宣布开发者现在可以自带数据对 GPT-3.5 Turbo 进行微调,以适配自己的使用场景。该更新属于 GPT-3.5 Turbo 微调与 API 更新的一部分。
推荐理由:OpenAI 开放 GPT-3.5 Turbo 微调,开发者可用自有数据定制模型,值得关注 API 能力变化。
Supabase 宣布在向量工具中新增对 Hugging Face 的一等支持,先从嵌入模型开始,覆盖 Python 客户端 vecs 和 Edge Functions(Deno/JavaScript)。
推荐理由:Supabase 在向量工具中接入 Hugging Face 嵌入模型,并给出 Python 与 Edge Functions 两种调用方式。
Supabase 用 pgvector 对比了 OpenAI text-embedding-ada-002(1536 维)与 all-MiniLM-L6-v2(384 维)的查询性能,在 accuracy@10 固定为 0.99 时后者每秒查询数高出 78%,内存占用从 7.5GB 降到 4GB。
推荐理由:Supabase 用自家 pgvector 实测对比不同维度嵌入模型,给出查询速度与内存占用的具体差距,可据此选型。
Vercel 发布开源 AI SDK,帮助开发者用 JavaScript 和 TypeScript 构建对话、流式与聊天界面,支持 React/Next.js、Svelte/SvelteKit,Nuxt/Vue 支持即将推出。
推荐理由:Vercel 官方发布 AI SDK,说明其支持的框架、模型适配与流式 UI 能力,便于开发者判断是否接入。
OpenAI 宣布对 API 进行多项更新,包括更易控制的模型、函数调用能力、更长的上下文以及更低的价格。官方未在摘要中给出具体模型名称、上下文长度或降价幅度。
推荐理由:OpenAI 官方公布 API 更新,涉及函数调用、更长上下文与降价,可据此判断接口能力与成本变化。