Supabase Edge Functions 新增 Mozilla Llamafile 推理支持
Supabase Edge Functions 在 Ollama 之外新增 Mozilla Llamafile 作为推理服务器,后者以单文件在本地运行 LLM,并提供兼容 OpenAI API 的服务端。
Supabase Edge Functions 在 Ollama 之外新增 Mozilla Llamafile 作为推理服务器,后者以单文件在本地运行 LLM,并提供兼容 OpenAI API 的服务端。
Upwork 将 AI 用于团队协作、运营和产品开发。原文未披露具体模型、价格、费率或增长数据,仅说明 AI 被用于连接团队成员、运营与产品开发三条线。
OpenAI 宣布 GPT-4o 现已支持微调功能。材料仅提供标题,未给出价格、可用范围或具体能力细节。
Supabase 公布 Launch Week 12 十大发布,榜首 database.build(原 postgres.new)是浏览器内运行的 Postgres 沙箱,带 AI 辅助,可无限创建数据库并即将支持部署到 S3。
Vercel 团队用 AI SDK 解决非英语字符域名购买失败的问题:Punycode 域名在 OpenSRS 注册时需附带语言代码,而系统此前将其设为可选未启用。语言检测库 CLD2 因域名过短失效后,团队改用 AI SDK 的 generateText 调用 OpenAI GPT-4o 生成 3 位语言代码,在近两个月失败的购买记录上测试达到 100% 成功率,并已上线生产环境。
Supabase 发布 database.build(原 postgres.new),一个在浏览器内运行的 Postgres 沙盒,每个数据库配一个大语言模型(当前为 GPT-4o)。
推荐理由:Supabase 把 PGlite 与 GPT-4o 组合成浏览器内 Postgres 沙盒,展示了 AI 直接操作数据库的交互方式。
OpenAI 发布文章,讨论将数据与 API 配对以释放客户价值,并以 Rakuten 为例说明其如何借助 AI 打通数据、挖掘客户洞察与价值。
OpenAI 在 API 中推出 Structured Outputs,模型输出现在可以可靠地遵循开发者提供的 JSON Schema。该功能面向需要在 API 调用中获得稳定结构化数据的开发者。
推荐理由:OpenAI 在 API 中上线 Structured Outputs,模型输出可按开发者提供的 JSON Schema 返回,便于构建稳定的结构化数据流程。
Ollama 于 7 月 25 日宣布支持工具调用,模型可借助已知工具完成更复杂任务或与外部世界交互,例如函数与 API、网页浏览、代码解释器。开发者可在 Ollama API 的 tools 字段传入工具列表,受支持模型会返回 tool_calls 响应,工具结果通过 tool 角色的消息回传。
Replicate 宣布可通过其 API 运行 Meta 的 Llama 3.1 405B 模型,该模型有 4050 亿参数、8000 token 上下文窗口,官方称其在多项基准上接近或达到 GPT-4 水平。Replicate 提供了 JavaScript、Python 和 cURL 三种调用方式,并给出 Next.js 示例聊天应用,可部署在 Vercel 上。
推荐理由:Replicate 官方给出 Llama 3.1 405B 的 API 调用方式,含 JavaScript、Python 与 cURL 三种示例。
OpenAI 发布 GPT-4o mini,定位为更具成本效率的智能模型。材料仅提供标题,未包含正文内容,具体价格与能力细节暂无法确认。
Storyboarder.ai 能把行业标准剧本或粗略概念,经 LLM 生成剧本、镜头清单和分镜图,并即将支持视频。创始人 Zeyd Taha Candan 称团队出身电影制作,早期从 Dall-E 2 转向 Stable Diffusion,通过 API 调用模型而非自研。用户多为电影人,导出 PDF 只需一键。
Vercel 发布变更说明,OpenAI 将于 7 月 9 日进一步封锁来自不支持国家和地区的 API 流量,其中将包括 Vercel 香港区域(hkg1)的 Functions。Vercel 表示多数 Functions 不在该区域执行,但使用 Edge Runtime 的 Functions 可能需要调整执行区域,用户可通过指定允许区域并排除香港来避免影响,更改区域需要重新部署应用。
推荐理由:Vercel 说明 OpenAI 将于 7 月 9 日封锁香港区域 API 流量,并给出排除该区域的配置与重新部署要求。
Vercel 发布 AI SDK 3.2,围绕 Agent、Provider、Embeddings 和开发体验四方面扩展能力。
MavenAGI 推出一款基于 GPT-4 的 AI 客服代理,Tripadvisor、Clickup 和 Rho 等公司已在使用,用于节省时间并更好地服务客户。
Clerk 官方博客演示如何用用户 public metadata 中的 isBetaUser 和 isAdmin 标记,配合 session token 与 middleware,让注册用户先进入 /waitlist 页面,直到管理员在 /admin 后台手动放行。
Hugging Face 为 Inference Endpoints 新增 AWS Inferentia2 实例,用户可在 Amazon Web Services 实例配置中选择 Inf2 选项,几步点击即可部署模型。
ChatGPT 的数据分析功能获得改进,用户现在可以与表格和图表进行交互,并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
OpenAI 宣布推出新旗舰模型 GPT-4 Omni(GPT-4o),可实时跨音频、视觉和文本进行推理。该模型被定位为 OpenAI 的新旗舰模型。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,可实时跨音频、视觉和文本推理,关注模型能力变化的读者可了解其定位。
OpenAI 发布最新旗舰模型 GPT-4o,同时把更多能力开放给 ChatGPT 免费用户。官方称此次发布包含新旗舰模型上线,以及面向免费用户的功能扩展。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,并首次把更多能力开放给 ChatGPT 免费用户。
OpenAI 发布 GPT-4o,并让 ChatGPT 免费用户获得更多能力。材料仅给出这一条摘要,未披露 GPT-4o 的具体能力、价格或上线范围。
推荐理由:OpenAI 发布 GPT-4o,并让 ChatGPT 免费用户获得更多能力,可了解模型与免费策略的同步变化。
Vercel 发文列出 7 个可立即加入应用的 AI 功能,包括语义搜索、自然聊天机器人、个性化推荐、即时本地化等。文中举例 Klarna 的 OpenAI 聊天机器人客户满意度与人工相当,解决问题快 80%,承担 700 名全职客服的工作量,带来 $40M 净收入。Vercel 提供原生 AI 支持及全托管的扩缩容、流式与缓存基础设施,按实际用量付费。
Stack Overflow 与 OpenAI 宣布达成 API 合作,将把 Stack Overflow 的技术知识平台与 OpenAI 的 LLM 模型能力结合,帮助开发者。
Vercel 发布 AI SDK 3.1,并宣布 ModelFusion 团队加入。新版本包含 AI SDK Core、AI SDK UI 和 AI SDK RSC 三部分。
推荐理由:Vercel 官方发布 AI SDK 3.1,统一多家模型调用接口并新增 streamUI,可据此评估是否替换现有 LLM 集成方案。
OpenAI 宣布 GPT-4 API 正式可用,GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步正式可用。OpenAI 同时公布旧版 Completions API 模型的弃用计划,这些模型将于 2024 年初退役。
推荐理由:OpenAI 宣布 GPT-4 API 正式可用,并给出旧版 Completions API 模型的退役时间表。
OpenAI 发布 ChatGPT 和 Whisper 的 API。
OpenAI 为 API 客户新增更多企业级功能,包括更多安全功能与控制项、Assistants API 的更新,以及帮助更好管理成本的工具,同时加强企业支持。
Mistral 发布最新开放模型 Mixtral 8x22B,采用稀疏 Mixture-of-Experts(SMoE)架构,141B 总参数中仅 39B 激活,以 Apache 2.0 许可开放,可无限制使用。
推荐理由:Mistral 发布 Mixtral 8x22B 开放模型,给出 141B 总参数中仅 39B 激活的稀疏架构与 Apache 2.0 许可,可据此评估自托管与微调成本。
Supabase 在 Edge Functions 的 Edge Runtime 中内置了 Supabase.ai API,用几行代码即可运行 AI 推理,目前支持 gte-small 生成 embedding,并实验性支持 Llama 和 Mistral 等开源 LLM。
推荐理由:Supabase 在 Edge Functions 内置 AI 推理 API,开发者可几行代码生成 embedding,并了解与 OpenAI 的成本对比。
Vercel 展示了用 v0、Mistral AI(经 Perplexity)和 Vercel AI SDK 在几小时内复刻亚马逊 AI 评论摘要功能的案例。
OpenAI 为微调 API 增加新功能,让开发者对微调拥有更多控制权,同时公布构建自定义模型的新方式。官方称此举旨在扩展其自定义模型计划。
Replit 在第二届 Developer Day 上开放了面向团队的 Replit Teams 测试候补名单,并发布自动化调试 AI 模型 Code Repair。
Pietro Schirano 是 EverArt 联合创始人,他在 Replit 上把对 AI 的好奇心做成了拥有多款应用的创业公司。
OpenAI 分享了 Voice Engine 小规模预览的经验,这是一款用于创建自定义语音的模型。
OpenAI 分享了 Zelma 使用 GPT-4 让教育数据更易获取的案例。
Supabase 发布教程,演示如何用 Amazon Titan 多模态模型(amazon.titan-embed-image-v1)配合 Supabase Vector 的 vecs Python 客户端实现语义图像搜索。
OpenAI 上月向外界介绍 Sora 后,一直在与艺术家合作,探索 Sora 如何辅助他们的创作流程。此次公布的是这些艺术家对 Sora 的首批使用印象。
JetBrains 借助 OpenAI 的 API 打造出公司史上增长最快的产品。该产品将 AI 能力嵌入开发者软件,具体功能、定价与上线时间未在原文披露。
Superhuman 宣布与 OpenAI 合作,推出由 AI 驱动的新一代邮件体验。官方称这标志着邮件进入新阶段,但未披露具体功能、定价或上线时间。
Vercel 发布 AI SDK 3.0,新增 Generative UI 能力,可通过 render 方法把 LLM 响应关联到流式 React Server Components,让模型调用工具后直接渲染自定义 UI,例如查询实时天气并返回组件。
推荐理由:Vercel 官方发布 AI SDK 3.0,把 LLM 响应映射到流式 React Server Components,并说明了对框架与模型的支持边界。