跳到正文

#OpenAI

今日 9 条
11月19日周二
11月15日周五
  1. Qwen Blog62

    Qwen2.5-Turbo 发布:上下文扩展到 1M tokens,首 token 延迟降至 68 秒

    Qwen2.5-Turbo 把上下文长度从 128k 扩展到 1M tokens,约等于 100 万英文单词或 150 万汉字,在 1M 长度 Passkey Retrieval 任务上准确率 100%,RULER 得分 93.1,超过 GPT-4 的 91.6。

    推荐理由:Qwen2.5-Turbo 把上下文从 128k 扩到 1M,并给出首 token 延迟与价格对比,可据此判断长文本场景是否值得迁移。

10月31日周四
10月29日周二
10月23日周三
  1. Hugging Face Blog58

    Hugging Face 发布 HUGS:零配置开源模型推理微服务

    Hugging Face 发布 HUGS(Hugging Face Generative AI Services),一套零配置的优化推理微服务,基于 Text Generation Inference 和 Transformers,可在自有基础设施上部署开源模型。

    推荐理由:Hugging Face 官方发布零配置推理微服务 HUGS,给出定价与支持模型清单,可对照自建推理方案的成本与迁移路径。

10月22日周二
10月17日周四
10月9日周三
  1. Vercel News22

    ChatPRD 如何用 Vercel 和 AI SDK 以独立开发者身份做到 2 万用户

    独立开发者 Claire Vo 用 Vercel 和 Vercel AI SDK 打造的 AI 产品经理助手 ChatPRD,九个月内积累 20,000 名用户,目前正扩展团队协作功能。ChatPRD 以 GPT-4 Omni 为主模型,借助 AI SDK 的流式响应和生成式 UI 组件降低延迟,Claire 称流式上线后用户满意度和注册量双双上升,对业务有可量化影响。

10月1日周二
9月30日周一
9月26日周四
9月24日周二
9月20日周五
  1. Vercel News58

    Vercel 发布 AI SDK 3.4,新增语言模型中间件与数据流协议

    Vercel 发布 AI SDK 3.4,为这个用 JavaScript 和 TypeScript 构建 AI 应用的开源工具包加入语言模型中间件、数据流协议、结构化输出、多步调用、追踪改进和 mock 模型测试等能力。

    推荐理由:AI SDK 3.4 新增语言模型中间件、数据流协议与多步调用,用 JS/TS 构建 AI 应用的开发者可据此评估升级。

9月17日周二
9月12日周四
  1. OpenAI News58

    OpenAI 发布 o1 模型

    OpenAI 发布 o1 模型,官方页面标题为 Introducing OpenAI o1。该页面正文未能抓取,除发布这一动作外暂无更多细节。

9月10日周二
9月5日周四
8月26日周一
8月21日周三
8月20日周二
8月16日周五
8月15日周四
  1. Vercel News20

    Vercel 如何用 AI SDK 修复国际域名的边缘错误

    Vercel 团队用 AI SDK 解决非英语字符域名购买失败的问题:Punycode 域名在 OpenSRS 注册时需附带语言代码,而系统此前将其设为可选未启用。语言检测库 CLD2 因域名过短失效后,团队改用 AI SDK 的 generateText 调用 OpenAI GPT-4o 生成 3 位语言代码,在近两个月失败的购买记录上测试达到 100% 成功率,并已上线生产环境。

8月12日周一
8月8日周四
8月6日周二
  1. OpenAI News60

    OpenAI 在 API 中推出 Structured Outputs

    OpenAI 在 API 中推出 Structured Outputs,模型输出现在可以可靠地遵循开发者提供的 JSON Schema。该功能面向需要在 API 调用中获得稳定结构化数据的开发者。

    推荐理由:OpenAI 在 API 中上线 Structured Outputs,模型输出可按开发者提供的 JSON Schema 返回,便于构建稳定的结构化数据流程。

7月25日周四
7月23日周二
  1. Replicate Blog60

    Replicate 上线 Meta Llama 3.1 405B API,支持一行代码调用

    Replicate 宣布可通过其 API 运行 Meta 的 Llama 3.1 405B 模型,该模型有 4050 亿参数、8000 token 上下文窗口,官方称其在多项基准上接近或达到 GPT-4 水平。Replicate 提供了 JavaScript、Python 和 cURL 三种调用方式,并给出 Next.js 示例聊天应用,可部署在 Vercel 上。

    推荐理由:Replicate 官方给出 Llama 3.1 405B 的 API 调用方式,含 JavaScript、Python 与 cURL 三种示例。

7月18日周四
7月5日周五