用 Vercel、OpenAI 和 Postgres 构建 AI 聊天机器人
一篇教程演示如何用 Vercel、OpenAI API 和 Postgres 的 pgvector 扩展搭建类 ChatGPT 应用，通过 word embeddings 为业务定制聊天机器人。OpenAI API 提供词嵌入能力，pgvector 负责在 Postgres 中存储和检索向量。
主题：基础设施与部署
主题：基础设施与部署
今日 7 条Neon BlogAI 评分3838
Hugging Face BlogAI 评分4242 为什么我们转向 Hugging Face Inference Endpoints，或许你也该考虑
我们正把部分 CPU 推理模型从 AWS ECS + Fargate 迁到 Hugging Face Inference Endpoints，部署流程从构建 API、打包 Docker、上传 ECR 再部署 ECS 简化为训练、上传 Hub、直接部署。
Replit BlogAI 评分4040 Replit 发布 Ghostwriter Chat：首个对话式 AI 编程助手
Replit 宣布 Ghostwriter Chat 开启 beta，定位为首个直接集成在 IDE 内的对话式 AI 编程助手，并带有主动调试器和对项目上下文的感知能力。它能在控制台报错时主动给出可粘贴的完整代码块，让开发者无需离开 IDE 去 Google、Stack Overflow 或 ChatGPT 找答案。订阅 Ghostwriter 可在限时内免费使用该 beta。
Supabase BlogAI 评分5050 Supabase 发布 Supabase Clippy，用 ChatGPT 回答文档问题
Supabase 发布文档问答功能 Supabase Clippy，在 supabase.com/docs 按 cmd + / 即可调出搜索框提问，目前是隐藏的 MVP 功能。
Replicate Blog精选AI 评分6262 Replicate 上线 LoRA：更快微调 Stable Diffusion
Replicate 宣布支持在云端用一次 API 调用训练 LoRA 模型，用于微调 Stable Diffusion。LoRA 由微软研究人员提出，Simo Ryu 将其应用到 Stable Diffusion；相比 DreamBooth 约二十分钟的训练和数 GB 的产物，LoRA 训练最快约八分钟，产物约 5MB，且推理无需冷启动。
推荐理由：Replicate 上线 LoRA 训练与推理接口，并对比 DreamBooth 的训练时长和产物体积，便于开发者判断迁移成本。
Supabase Blog精选AI 评分6262 Supabase 教程：用 pgvector 在 Postgres 中存储 OpenAI embeddings
Supabase 上线 PostgreSQL 扩展 pgvector，用于在数据库内存储和查询向量 embeddings，并给出完整实现流程。
推荐理由：Supabase 官方给出用 pgvector 在 Postgres 中存储和检索 OpenAI embeddings 的完整流程，含建表、索引与 Edge Function 示例。
Vercel NewsAI 评分2222 用 Next.js 和流式响应构建 GPT-3 应用（历史教程）
Vercel 发布历史教程，复盘如何用 Next.js 与流式响应构建 GPT-3 应用，示例产品为 twitterbio.com。前端用文本框、语气下拉框和提交按钮调用 /api/generate API Route，后端在 generate.ts 中向 OpenAI 的 GPT-3 发起 POST 请求并返回两条生成的简介。
Vercel NewsAI 评分2222 Vercel 上部署 AI 驱动应用：模板、框架与托管基础设施
Vercel 发布指南，介绍如何在 Vercel 上构建和部署 AI 驱动应用，提供 Twitter Bio Generator、Photo Restorer、DALL·E 2 Art Generator 等一步式模板。
OpenAI NewsAI 评分1818 OpenAI 用 GPT-3 从客户反馈中快速提炼细致洞察
OpenAI 展示了用 GPT-3 从客户反馈中快速提炼细致洞察的用法。该能力面向客户反馈分析场景，目标是输出快速且细致的洞察结果。原文未披露具体价格、费率或可用性细节。
OpenAI NewsAI 评分2222 OpenAI 用微调 GPT-3 规模化生产定制视频
OpenAI 通过微调 GPT-3 来驱动并规模化“代客制作”视频（done-for-you video creation）。原文未披露具体客户、价格或效果数据。
OpenAI NewsAI 评分1616 OpenAI 用 GPT-3 打造下一代 AI 角色
OpenAI 发布内容介绍如何用 GPT-3 创建下一代 AI 驱动的角色。原文未披露具体产品名、价格、费率或可用性信息。
OpenAI NewsAI 评分4242 OpenAI 发布新版 embedding 模型
OpenAI 发布新版 embedding 模型，官方称其能力显著更强、成本更低且更易使用。原文未披露具体价格、版本号与可用范围。
OpenAI News精选AI 评分8080 OpenAI 发布对话式模型 ChatGPT
OpenAI 发布了一个名为 ChatGPT 的模型，以对话方式与用户交互。官方称对话格式让 ChatGPT 能回答追问、承认自己的错误、质疑不正确的前提，并拒绝不当请求。
推荐理由：OpenAI 发布对话式模型 ChatGPT，读者可了解其对话交互方式与追问、纠错等能力。
OpenAI News精选AI 评分6060 OpenAI 开放 DALL·E API 公测
OpenAI 宣布 DALL·E API 进入公开测试，开发者从即日起可以开始用它构建应用。
推荐理由：OpenAI 开放 DALL·E API 公测，开发者可据此把图像生成能力接入自己的应用。
OpenAI News精选AI 评分6060 OpenAI 开源语音识别模型 Whisper
OpenAI 宣布训练并开源名为 Whisper 的神经网络，用于语音识别。官方称其在英文语音识别上的稳健性和准确度接近人类水平。
推荐理由：OpenAI 开源语音识别模型 Whisper，读者可了解其英文语音识别的稳健性与准确度定位。
Replit BlogAI 评分3030 Replit 如何将大语言模型产品化：GhostWriter 的工程实践
Replit 分享了将大语言模型产品化的工程经验，其部署了约 1 亿参数模型用于搜索和垃圾内容过滤、1-10B 模型用于代码补全产品 GhostWriter、100B+ 模型用于高推理能力功能。
Replicate BlogAI 评分4040 用 API 运行 Stable Diffusion：Replicate 教程
Replicate 发布教程，演示如何通过其 API 运行 Stable Diffusion，无需自建 GPU 基础设施。用户可用 pip 安装其开源 Python 客户端（另有社区维护的 Node.js 库 replicate-js），在账户页获取 API token 后即可创建预测并生成图像。
OpenAI News精选AI 评分6262 OpenAI 将 DALL·E 开放测试版，每月赠送可刷新积分
OpenAI 宣布 DALL·E 进入测试版，将在未来几周从等待名单中邀请 100 万人。用户可用每月刷新的免费积分生成图片，也可按 115 次生成 $15 的价格购买额外积分。
推荐理由：OpenAI 公布 DALL·E 测试版开放方式与积分定价，可了解当时的准入节奏和收费结构。
Replicate BlogAI 评分2222 Replicate 团队探索文本生成图像模型：从 glid-3-xl 到图像放大与变体
Replicate 团队成员 Clay 演示了如何用 Replicate Python 客户端调用多个开源文本生成图像模型。通过 replicate.models.get 调用 afiaka87/glid-3-xl 生成图像，再用 raoumer/srrescgan 放大，并用 laion-ai/ongo 生成变体。
OpenAI NewsAI 评分3232 OpenAI Codex 正为 70 款应用提供支持
OpenAI Codex 现已通过 OpenAI API 为 70 款不同应用提供支持，覆盖多种使用场景。
OpenAI News精选AI 评分5858 OpenAI 发布 GPT-3 与 Codex 新版本，支持编辑和插入内容
OpenAI 发布新版本 GPT-3 和 Codex，可以在已有文本中编辑或插入内容，而不再只是续写现有文本。
推荐理由：OpenAI 发布 GPT-3 与 Codex 新版本，能力从续写扩展到对已有文本的编辑与插入。
OpenAI NewsAI 评分4848 OpenAI 用人类反馈训练 InstructGPT，并设为 API 默认语言模型
OpenAI 训练出比 GPT-3 更能遵循用户意图、同时更真实且毒性更低的 InstructGPT 模型，并已将其部署为 API 上的默认语言模型。这些模型采用人类参与（humans in the loop）的对齐研究技术训练。
OpenAI NewsAI 评分5555 OpenAI API 新增 embeddings 端点，支持文本与代码任务
OpenAI 在 API 中推出新端点 embeddings，用于处理自然语言和代码任务，包括语义搜索、聚类、主题建模和分类。
Hugging Face BlogAI 评分2222 Hugging Face Infinity 在 Intel Ice Lake CPU 上的毫秒级延迟案例研究
Hugging Face 公布 Infinity 在 Amazon EC2 C6i（Intel Ice Lake）上的推理基准：用 Infinity Multiverse 优化 DistilBERT 做序列分类，端到端延迟与吞吐相比 Ice Lake 上的原生 Transformers 最高提升 800%，相比 Cascade Lake 实例最高提升 34%。
OpenAI NewsAI 评分4242 OpenAI 发布 GPT-3 微调功能：一条命令定制你的应用
OpenAI 为 GPT-3 推出微调功能，开发者可用一条命令针对自己的应用定制模型。
OpenAI News精选AI 评分6262 OpenAI 的 API 取消等待名单，现已开放使用
OpenAI 宣布其 API 不再需要等待名单，开发者可以直接使用。官方表示，这一更广泛的开放得益于安全方面的进展。
推荐理由：OpenAI 宣布 API 取消等待名单，开发者可直接接入，反映其安全进展带来的开放节奏。
Replit BlogAI 评分4040 Replit 与 OpenAI Codex 合作 Beta 发布：上线 Explain Code 代码解释功能
Replit 与 OpenAI 合作开始 Beta 测试 Codex 驱动的功能，首个上线的是 Explain Code，可选中 JavaScript 和 Python 文件中的代码让 Codex 解释。
OpenAI News精选AI 评分6262 OpenAI 发布改进版 Codex，通过 API 开放私有测试
OpenAI 发布改进版 Codex，这是其将自然语言转换为代码的 AI 系统，从今天起通过 API 以私有测试（private beta）形式开放。原文未披露具体功能、价格或申请方式。
推荐理由：OpenAI 公布 Codex 改进版并以私有测试形式开放 API，读者可了解该自然语言转代码系统的接入方式变化。
OpenAI NewsAI 评分4242 OpenAI：300 多款应用用 GPT-3 驱动下一代应用
OpenAI 称已有超过 300 款应用通过其 API 提供 GPT-3 驱动的搜索、对话、文本补全等 AI 功能。这些应用覆盖搜索、对话与文本补全等场景，均基于 GPT-3 的 API 能力构建。
Hugging Face BlogAI 评分2222 我在 Google Cloud 上部署 serverless transformers 情感分析流水线的历程
社区成员 Maxence Dominici 分享了在 Google Cloud 上部署 transformers 情感分析流水线的过程，目标是做一个自动判断 Discord 客户评论正负面的微服务，预计每月不超过 2,000 次请求。
Hugging Face BlogAI 评分3636 Hugging Face 如何为 🤗 API 客户把 Transformer 推理提速 100 倍
Hugging Face 通过组合 Transformers 与 Tokenizers 库的高效方法，为 Accelerated Inference API 客户实现 100 倍推理提速，其中前 10 倍来自优化注意力矩阵计算、Rust 版 tokenizer 与智能缓存。
OpenAI News精选AI 评分6262 OpenAI 发布 API，开放调用其新 AI 模型
OpenAI 发布了一个 API，用于访问 OpenAI 开发的新 AI 模型。
推荐理由：OpenAI 官方发布 API，让开发者可以调用其新开发的 AI 模型。