Supabase 发布用 Edge Runtime 构建 ChatGPT 插件的模板
Supabase 发布了一个用 TypeScript 编写、运行在 Supabase Edge Runtime 上的 ChatGPT 插件模板,可在 GitHub 上 fork。
推荐理由:Supabase 官方给出在 Edge Runtime 上搭建 ChatGPT 插件模板的完整步骤,含清单文件、OpenAPI 生成与本地调试。
Supabase 发布了一个用 TypeScript 编写、运行在 Supabase Edge Runtime 上的 ChatGPT 插件模板,可在 GitHub 上 fork。
推荐理由:Supabase 官方给出在 Edge Runtime 上搭建 ChatGPT 插件模板的完整步骤,含清单文件、OpenAPI 生成与本地调试。
Replicate 发布 AutoCog,用 GPT-4 为机器学习仓库自动生成 cog.yaml 和 predict.py,并运行 cog predict 命令,失败时自动诊断修复,最多重试五次。AutoCog 可从 PyPI 安装,支持 --continue 参数在人工介入后继续。由于 GPT-4 仅接受 8096 tokens,AutoCog 会按重要性排序并截断仓库文件。
Replit 与 Google Cloud 达成合作,Replit 开发者将通过 Ghostwriter 获得 Google Cloud 基础设施、服务和基础模型,Google Cloud 与 Workspace 开发者则可用上 Replit 的协作代码编辑平台。
Replit 在 1 月 Hackweek 期间启动 Ghostwriter Chat 项目,用约 6-8 周完成从开发到上线,目标是在编辑器内原生提供 LLM 聊天。
OpenAI 宣布在 ChatGPT 中实现对插件的初步支持。插件是专为语言模型设计的工具,以安全为核心原则,可帮助 ChatGPT 获取最新信息、执行计算或使用第三方服务。
推荐理由:OpenAI 官方宣布 ChatGPT 支持插件,插件可让模型获取实时信息、执行计算或调用第三方服务。
Replicate 发布教程,介绍如何用 LoRA 和 Alpaca 训练数据微调 LLaMA,并给出从克隆 Alpaca-LoRA 仓库、安装 Cog、转换权重到微调和运行模型的完整步骤。
推荐理由:Replicate 官方给出用 Alpaca-LoRA 微调 LLaMA 的完整步骤,含硬件要求与耗时,可照着复现。
OpenAI 的 GPT-4 被用于 Duolingo,帮助其填补关键的语言学习空白。Duolingo 借助 GPT-4 深化对话式学习体验。
冰岛正在用 GPT-4 保护冰岛语。OpenAI 介绍了这一合作,目标是为这门使用人数有限的语言延续未来。
Be My Eyes 借助 GPT-4 改造视觉无障碍体验。该应用将 GPT-4 的视觉能力用于帮助视障用户理解图像信息。
OpenAI 发布 GPT-4,称其为扩展深度学习的最新里程碑。GPT-4 是一个大型多模态模型,接受图像和文本输入、输出文本,在许多真实场景中能力不及人类,但在多项专业和学术基准上表现出人类水平。
推荐理由:OpenAI 公布 GPT-4 为多模态大模型,可接受图像与文本输入并输出文本,在多项专业与学术基准上达到人类水平。
Khan Academy 在一项有限试点项目中探索 GPT-4 用于虚拟课堂教育的潜力。该试点由 OpenAI News 披露,具体功能、价格与开放范围均未公布。
Stripe 借助 GPT-4 优化用户体验并打击欺诈。OpenAI 在 2023 年 3 月 14 日的发布中披露了这一合作,但未公布具体费率、套餐或增长数据。
OpenAI 发布 GPT-4,可用于创意与技术写作任务,能生成、编辑内容并与用户迭代,例如作曲、写剧本或学习用户的写作风格。材料仅提供摘要,未给出模型规格、价格或 API 细节。
推荐理由:OpenAI 发布 GPT-4,材料仅给出其在创意与技术写作上的生成、编辑和迭代能力。
一篇教程演示如何用 Vercel、OpenAI API 和 Postgres 的 pgvector 扩展搭建类 ChatGPT 应用,通过 word embeddings 为业务定制聊天机器人。OpenAI API 提供词嵌入能力,pgvector 负责在 Postgres 中存储和检索向量。
我们正把部分 CPU 推理模型从 AWS ECS + Fargate 迁到 Hugging Face Inference Endpoints,部署流程从构建 API、打包 Docker、上传 ECR 再部署 ECS 简化为训练、上传 Hub、直接部署。
Replit 宣布 Ghostwriter Chat 开启 beta,定位为首个直接集成在 IDE 内的对话式 AI 编程助手,并带有主动调试器和对项目上下文的感知能力。它能在控制台报错时主动给出可粘贴的完整代码块,让开发者无需离开 IDE 去 Google、Stack Overflow 或 ChatGPT 找答案。订阅 Ghostwriter 可在限时内免费使用该 beta。
Supabase 发布文档问答功能 Supabase Clippy,在 supabase.com/docs 按 cmd + / 即可调出搜索框提问,目前是隐藏的 MVP 功能。
Replicate 宣布支持在云端用一次 API 调用训练 LoRA 模型,用于微调 Stable Diffusion。LoRA 由微软研究人员提出,Simo Ryu 将其应用到 Stable Diffusion;相比 DreamBooth 约二十分钟的训练和数 GB 的产物,LoRA 训练最快约八分钟,产物约 5MB,且推理无需冷启动。
推荐理由:Replicate 上线 LoRA 训练与推理接口,并对比 DreamBooth 的训练时长和产物体积,便于开发者判断迁移成本。
Supabase 上线 PostgreSQL 扩展 pgvector,用于在数据库内存储和查询向量 embeddings,并给出完整实现流程。
推荐理由:Supabase 官方给出用 pgvector 在 Postgres 中存储和检索 OpenAI embeddings 的完整流程,含建表、索引与 Edge Function 示例。
Vercel 发布历史教程,复盘如何用 Next.js 与流式响应构建 GPT-3 应用,示例产品为 twitterbio.com。前端用文本框、语气下拉框和提交按钮调用 /api/generate API Route,后端在 generate.ts 中向 OpenAI 的 GPT-3 发起 POST 请求并返回两条生成的简介。
Vercel 发布指南,介绍如何在 Vercel 上构建和部署 AI 驱动应用,提供 Twitter Bio Generator、Photo Restorer、DALL·E 2 Art Generator 等一步式模板。
OpenAI 展示了用 GPT-3 从客户反馈中快速提炼细致洞察的用法。该能力面向客户反馈分析场景,目标是输出快速且细致的洞察结果。原文未披露具体价格、费率或可用性细节。
OpenAI 通过微调 GPT-3 来驱动并规模化“代客制作”视频(done-for-you video creation)。原文未披露具体客户、价格或效果数据。
OpenAI 发布内容介绍如何用 GPT-3 创建下一代 AI 驱动的角色。原文未披露具体产品名、价格、费率或可用性信息。
OpenAI 发布新版 embedding 模型,官方称其能力显著更强、成本更低且更易使用。原文未披露具体价格、版本号与可用范围。
OpenAI 宣布 DALL·E API 进入公开测试,开发者从即日起可以开始用它构建应用。
推荐理由:OpenAI 开放 DALL·E API 公测,开发者可据此把图像生成能力接入自己的应用。
OpenAI 宣布训练并开源名为 Whisper 的神经网络,用于语音识别。官方称其在英文语音识别上的稳健性和准确度接近人类水平。
推荐理由:OpenAI 开源语音识别模型 Whisper,读者可了解其英文语音识别的稳健性与准确度定位。
Replit 分享了将大语言模型产品化的工程经验,其部署了约 1 亿参数模型用于搜索和垃圾内容过滤、1-10B 模型用于代码补全产品 GhostWriter、100B+ 模型用于高推理能力功能。
Replicate 发布教程,演示如何通过其 API 运行 Stable Diffusion,无需自建 GPU 基础设施。用户可用 pip 安装其开源 Python 客户端(另有社区维护的 Node.js 库 replicate-js),在账户页获取 API token 后即可创建预测并生成图像。
Replicate 发布教程,教你用 Stable Diffusion、Replicate 和 Fly.io 搭建一个 Discord 机器人画师,无需本地 GPU,部署到云端后可全天候运行。机器人通过 `!dream` 命令生成图片,约 20–40 秒返回结果,代码模板已开源于 replicate/discord-bot-tutorial-code。
OpenAI 宣布 DALL·E 进入测试版,将在未来几周从等待名单中邀请 100 万人。用户可用每月刷新的免费积分生成图片,也可按 115 次生成 $15 的价格购买额外积分。
推荐理由:OpenAI 公布 DALL·E 测试版开放方式与积分定价,可了解当时的准入节奏和收费结构。
Replicate 团队成员 Clay 演示了如何用 Replicate Python 客户端调用多个开源文本生成图像模型。通过 replicate.models.get 调用 afiaka87/glid-3-xl 生成图像,再用 raoumer/srrescgan 放大,并用 laion-ai/ongo 生成变体。
OpenAI Codex 现已通过 OpenAI API 为 70 款不同应用提供支持,覆盖多种使用场景。
OpenAI 发布新版本 GPT-3 和 Codex,可以在已有文本中编辑或插入内容,而不再只是续写现有文本。
推荐理由:OpenAI 发布 GPT-3 与 Codex 新版本,能力从续写扩展到对已有文本的编辑与插入。
OpenAI 训练出比 GPT-3 更能遵循用户意图、同时更真实且毒性更低的 InstructGPT 模型,并已将其部署为 API 上的默认语言模型。这些模型采用人类参与(humans in the loop)的对齐研究技术训练。
OpenAI 在 API 中推出新端点 embeddings,用于处理自然语言和代码任务,包括语义搜索、聚类、主题建模和分类。
Hugging Face 公布 Infinity 在 Amazon EC2 C6i(Intel Ice Lake)上的推理基准:用 Infinity Multiverse 优化 DistilBERT 做序列分类,端到端延迟与吞吐相比 Ice Lake 上的原生 Transformers 最高提升 800%,相比 Cascade Lake 实例最高提升 34%。
OpenAI 为 GPT-3 推出微调功能,开发者可用一条命令针对自己的应用定制模型。
OpenAI 宣布其 API 不再需要等待名单,开发者可以直接使用。官方表示,这一更广泛的开放得益于安全方面的进展。
推荐理由:OpenAI 宣布 API 取消等待名单,开发者可直接接入,反映其安全进展带来的开放节奏。
Replit 与 OpenAI 合作开始 Beta 测试 Codex 驱动的功能,首个上线的是 Explain Code,可选中 JavaScript 和 Python 文件中的代码让 Codex 解释。