一个搜索 API 团队如何砍掉基础设施成本：弃用 Pinecone、自建 embedding 模型

一个图像与语义文本搜索 API 团队复盘过去一年控制基础设施开支的两项改动：弃用 Pinecone，把向量迁到 Neon 上的 Postgres，只付一个数据库的钱；不再按 embedding 向第三方付费，改在自有 GPU 服务器上跑自己的模型，每块 GPU 每秒处理约 110 张图片。作者的经验是先租用托管服务摸清需求，等用量可预测后再把贵的部分收回自建。