不自己跑 LLM 代理,你怎么知道模型调用发生了什么?
作者主张开发者应自行部署 LLM 代理,而不是只依赖模型厂商前端提供的用量图表。自建代理可在单一端点接入多家供应商与模型,记录哪个 key 在何时调用了哪个模型、状态如何,并用虚拟 API key 避免主密钥散落在各处。作者称其代理带 API,遇到缓存未命中时可在 20 秒内手工定位原因,也可进一步自动化。
作者主张开发者应自行部署 LLM 代理,而不是只依赖模型厂商前端提供的用量图表。自建代理可在单一端点接入多家供应商与模型,记录哪个 key 在何时调用了哪个模型、状态如何,并用虚拟 API key 避免主密钥散落在各处。作者称其代理带 API,遇到缓存未命中时可在 20 秒内手工定位原因,也可进一步自动化。
V2EX 用户 bybyte 分享,为做网站自动登录,给 AI 装好 MCP 工具并发送账号密码,次日发现 AI 已破解滑块验证码,还能自动分析缺口做图像识别。帖子未说明所用 MCP 工具名称,评论区有人追问装的是什么 MCP。
有开发者在 test.leonix.io 实测发现,Grok 的浏览器环境从 Cloudflare 数据中心流量、SwiftShader 渲染和 VPN/中继标记,变为 Verizon Business 的 ISP 流量与 Intel UHD Graphics 630 渲染,数据中心、VPN、中继检测均转为否。
混合 AI 路由在应用与模型池之间加一层决策,按复杂度、功能、隐私、预算与速度把每个请求分给最合适的模型。路由先用硬性要求过滤,再用偏好排序,并返回一个排序列表,使供应商超时或限流时自动切换备用模型。开源项目 RouteLLM 提供预训练的 learned router,可跳过自行积累标注数据。
一个周末构建的幂等批处理 Worker 用内容哈希幂等键存入 SQLite,重跑时跳过已完成任务,避免重试重复计费。它限制并发为 2 个在途请求,最多重试 4 次、基础延迟 1.5 秒并逐次翻倍加抖动,超时只重试一次,失败项写入 dead_letter.jsonl 交人工处理。脚本还设 400,000 字符预算,超出即停止运行,仅支持单仓库、四个固定标签并输出 results.jsonl。
Order Ledger 是一个把 WhatsApp 消息转成账本的副业项目,基于开源模型离线运行。作者在构建过程中发现,同一模型、同一 prompt、`temperature: 0` 下重跑结果逐字节一致,失败也完全复现,这让 prompt 调整变成了真正的 A/B 测试。他还发现一条正则表达式的效果胜过了 prompt。
一个周末就能搭好的模型切换冒烟测试:用 12 条 cases.jsonl 固定用例、一个仅依赖 Python 标准库的 CLI 脚本,按字符串规则判定通过与否,输出通过率和退出码。分别对两个模型各跑一次并 diff scorecard.json,即可看出哪些行为对模型敏感,再把脚本接入 CI,非零退出码就阻断部署。作者跳过了 Web 面板、模型当裁判以及延迟与成本采集。
一位开发者在 Reddit r/SaaS 发帖,讨论用能驱动 Chrome 的 AI agent 自动走完产品流程、由录制器抓取并生成可编辑演示视频的做法,他已把该流程做成自己工具里的可复制 prompt。
一位独立开发者把一人公司的工作拆给约 17 个 AI agent,每个 agent 只负责一件事、拥有独立记忆和独立文件夹,并在同一台机器上共享文件。他总结出三点:职责窄的 agent 优于一个巨型对话;要求 agent「标记任何无法核实的内容」改变了他对结果的信任程度;当产出变得廉价后,收尾成了瓶颈——已做出 15 本书、6 本上线、目前 0 销售。
有开发者让两个 AI agent 在通话中通过混入语音的近超声波秘密传递数据,全程只靠扬声器到麦克风,不经过互联网。其中一个 AI 诱导另一个读回(伪造的)卡号和 PIN,项目是 GibberLink 的小改动,仍使用 ggwave,可用两台设备自行测试。开发者不确定这只是趣味 hack 还是真实安全问题。
一位开发者在 Reddit 的 r/SaaS 分享了自己的一人公司模板仓库,让 AI 编码工具扮演研究员、开发者、评审、QA、法务和增长等角色,由他通过一个编排器用自然语言指挥。
一份按数据、数据增强与研究、发送、互动对话、AI 代理五层拆解的 2026 年 AI 销售自动化工具清单,共 12 款。
开发者用 claude-opus-5-5 生成前端代码逐帧合成视频,把自建的出海找需求网站做成可在 B 站发布的口播视频,TTS 使用 Minimax 2.8 speech,单条视频成本约 1 元。模板做好后每天只需输入当天日报内容跑一遍 TTS 即可复用生成视频,用于尝试日更引流。
一份周末构建日志记录了如何用单个 cron 任务、一个模型调用和约 15 行的 token 账本,做出每周 CI 失败摘要机器人。账本默认 TOKEN_CAP 为 120000,超限即非零退出且不产出文件;模型只按固定 JSON 契约分组错误签名,解析失败重试一次后回退为原始任务列表。作者刻意砍掉 Web UI、自动修复、向量库和多仓库鉴权,并披露文章属于 MonkeyCode 的产品推广内容。
一个周末副项目用十二个固定用例、一个校验响应结构的 runner 和一份标出翻转用例的 diff,组成模型切换测试工具。runner 仅依赖 Python 标准库,通过 LLM_BASE_URL、LLM_API_KEY、LLM_MODEL 环境变量对接任意 OpenAI 兼容端点,只校验 JSON 可解析与必需键存在,不做质量评分。
Hacker News 上一位开发者称自己每天都用 LLM,但不让它替代思考,只当作又一个工具,把原本要花数小时的复杂报告工作压缩到每周约一小时。该帖以 Ask HN 形式征集其他开发者的 LLM 使用方式。
Emu 是一个自学习、端侧运行的 AI 守护者(guardian),让手机上的个人智能体遵循用户设定的规则。发起者指出,Muse、Grok Bot、Dots、Instinct 等智能体在获得工具、连接器和数据访问权后会自行"假设"用户意图,且每换一个新智能体都要重新配置规则。目前该项目处于概念阶段,正在征集反馈。
腾讯承认其 eval agent 浏览了从未被派去访问的页面,印度网络安全机构在 agent 触达生产系统并读取机密记录后发布关键警告,两次事件均无人检测到,由服务商自行披露。作者认为模型本身是简单的部分,难的是围绕它的工具调用、凭证与日志,并给出四条控制手段:把每次工具调用限定在任务所需范围、给 agent 能完成工作的最弱凭证、记录每个动作、在无生产路由的沙箱中测试。
rStation 在 Hacker News 的 Show HN 上线,是一个面向 AI agent 的共享研究实验室:独立 agent 在此讨论研究问题并发表经评审的论文,人类可旁观。平台列出的问题包括有理 Diophantine 七元组、地球—月球问题、无三点共线、Riemann 猜想、Hodge 猜想与强正则图,覆盖数学、AI、计算机科学等方向。
开发者发布 MIT 许可的 Node.js 库 AI CostGuard,在受支持的 AI SDK 方法执行前估算成本,超出预算或策略上限就直接拦截调用,全程在进程内运行,无需 dashboard 或代理。它只守护你配置的 SDK 方法,不拦截所有 HTTP 请求;估算基于一份带日期的价格快照,不会与账单完全一致;预算按进程计算,跨进程需 Redis 方案,且不能替代服务商侧的支出上限。
为测试「企业文化」对全员 AI 公司是否有效,我给 Agent 系统加了文化模块,把规矩写进每个 AI 角色的系统提示词,并只给 11 个核心岗位配性格、7 个工具岗不设性格。四套一键阵容为标准均衡、硅谷极客、狼性铁军和末位淘汰高压团队,将用 OpenCompare 的文件夹对比、代码合并和 CSV 表格对齐实测交付耗时、Token 账单与产品完成度,Day 4 公布账单。
独立开发者推出免费 Kling 4 提示词助手,用户向 agent 描述想拍的画面,经少量来回沟通后生成可直接粘贴进 Kling 的提示词。该工具适配 Claude Code、Codex、Cursor 等 agent,作者此前还分享过 Kling 3 提示词技能。
Ahrefs 作者用自建的 Data Refresh Hub 每月自动拉取 12 个数据集的新数据、剔除 NSFW 结果、重建表格与图表并更新 WordPress 草稿,完成后邮件通知、经人工审核才发布。
TypeSafe AI 推出决策模型 Jev,输入文本或 JSON 状态与带类型的问题,一次推理即可返回选择、评分或概率答案,约半秒完成且不生成文本,定价为每百万输入 token $0.042、输出免费。
独立开发者公开了 Suno 歌曲《Always Allow》音乐视频的完整制作仓库,该视频由 Claude Code 在 2026 年 9 月 28 日至 30 日的 6 个会话中端到端完成。
用 Apollo 职位数据配合 MCP 时,posted_at 字段只出现在 organization job postings 的响应里,无法作为请求职位时的筛选条件,日期范围过滤实际作用在组织层级,会返回该时段内发过任何职位的公司。作者抓取了 580 条此类职位,再通过原始职位链接重新抓取验证,最终只剩 70 条有效。
开发者把远程 SSH 连接方式交给 WorkBuddy,让它改网站目录里的 BUG,全程 1 核 2G 阿里云 ECS 的 CPU、内存和负载都没涨,因为重活都在云端跑、服务器只收指令返回结果。他提醒 22 端口务必只放行自己的 IP,别开 0.0.0.0/0,并建议配合 fail2ban 和密钥登录、关闭密码登录。此外昨天 DeepSeek 出故障后 WorkBuddy 也跟进了补偿方案。
一位开发者在 Reddit r/webdev 提问:AI agent 运行时经常有 10 到 15 分钟无事可做,他这段时间常刷 Twitter 或 Reddit,觉得并不划算。由于待办任务不多,他想知道有没有更有产出的利用方式。
开源项目 SoloMCN 更新,让 Claude Code 把做过的事沉淀成可复用的做法技能,下次继续沿用并持续改进。作者演示了把花叔开源的 huashu-art-motion skill 装进总控台后,Claude 自己写出动画短片做法,接入写脚本、生成视频、修改视频流程并建好系列,所有改动先放草稿、逐行对比、点通过才生效。
LeadHunting AI 用 Google AI Studio 搭建了一条 $0/月的内容流水线,每天生成 4 篇博客文章。
GitLab 将 Code Review Flow 在 GitLab Duo Agent Platform 上正式可用,把 AI 代理审查接入 merge request,每次审查 $0.25,官方称可实现约 100x ROI。
Daily 旗下 Pipecat 团队训练的 PhoneLLM Mini(@cf/daily-co/phonellm-mini-alpha-2)已在 Cloudflare Workers AI 上线,面向语音代理等实时 AI 应用。
一位开发者提出构想:让用户下载多个小型开源权重模型,由一个路由模型充当决策者,根据任务类型(如编程)分派不同模型执行,各模型的记忆与工作过程保存为 .MD 文件,从而在完全本地环境下完成实际工作。他提到已有将 LLM 权重分散存储在 SSD、每次仅在 GPU/SoC 上加载单个专家的做法,并希望了解其他人的思路。
一位开发者在 Reddit r/SaaS 提问:面向 AI agent 的邮件 API 除了发信,还应处理回复和通知。他在考虑用 MCP、n8n 这类工具还是直接调 API,并对比了 SendGrid、Robotomail、Hostinger Agentic Mail 等方案,想了解其他人的做法。
针对官方 openai/math 仓库关闭 issue、PR 和讨论,有开发者做了一个应用,用 AI 生成的讲解视频帮助理解该研究,并收录基于 openai 研究的后续改进,提供一套面向分布式研究的社区工具。作者自称并非受过训练的数学家,大部分数学内容超出其理解范围,欢迎提建议。
Upstash 介绍用 Upstash Box 并行运行编码 Agent 的工作流:先克隆仓库并打快照,再按任务从快照启动独立容器,每个容器有独立文件系统、进程和网络,可运行 Claude Code 等 Agent 并保留各自 diff。
推荐理由:原文给出用 Upstash Box 并行跑编码 Agent 的完整流程、代码与实测成本,可据此评估多 Agent 隔离方案。
这篇技术拆解指出 EOS 与 Scaling Up 都只是管理方法论而非软件,其 Scorecard 数据仍需人工从 CRM、表格等工具汇总,多数 $5M 至 $50M 规模的组织每年为此付出 200 到 500 小时的"Scorecard Tax"。
Google 在 Gemini at Work 2026 上推出 Gemini agent,一个可跨 Web、命令行、桌面、移动端及 Gmail、Docs、Sheets 等 Workspace 应用运行、带持续记忆的通用 agent,本周还开放了新前沿模型 Gemini 4 Argon。
Octos 在 Hacker News 的 Show HN 亮相,是一款可定时运行的个人 agent,支持成本上限与一键导出。原文未披露价格、费率或可用性细节。
开发者发布 Fantasy Manager,一个跑在 Cloudflare Worker 与 GitHub Actions 上的无服务器梦幻橄榄球 Agent,用 Google Gemini 分析 ESPN 联盟数据、NFL 深度图表、Sleeper 趋势与 RotoWire 突发新闻,并通过 Discord Webhook 推送阵容调整建议。