跳到正文

开源项目

值得关注的开源项目与仓库:新项目、星标增长、可以拿来商用的开源替代与 awesome 清单。

117条精选相关主题GitHub开源商业化榜单更新

最新精选

第 81–100 条 · 共 117 条
10月10日周四
  1. Replicate Blog60

    Replicate 让 FLUX 提速并开源优化代码

    Replicate 宣布 FLUX 在其平台上的推理速度大幅提升,FLUX.1 [schnell] 在 512x512、4 步下为 0.29 秒(P90 0.49 秒),1024x1024、4 步下为 0.72 秒(P90 0.95 秒),FLUX.1 [dev] 在 1024x1024、28 步下为 3.03 秒(P90 3.90 秒)。

    推荐理由:Replicate 公开了 FLUX 提速的具体做法和端到端延迟数据,并开源优化代码,可了解推理加速路径。

7月18日周四
  1. Hugging Face Blog62

    Hugging Face TGI 推出 Multi-LoRA:一次部署服务 30 个模型

    Hugging Face 为 TGI 推出 Multi-LoRA serving,只需部署一次基础模型,就能按请求动态切换多个 LoRA 适配器,官方示例用 mistralai/Mistral-7B-v0.1 同时服务 predibase/customer_support 和 predibase/magicoder。

    推荐理由:Hugging Face 官方介绍 TGI 的 Multi-LoRA 部署方式,给出成本与用量对比,适合评估多模型推理方案。

7月16日周二
  1. Mistral News62

    Mistral 发布 Codestral Mamba 代码模型,Apache 2.0 许可可免费使用

    Mistral 发布 Codestral Mamba,一个基于 Mamba 架构的代码模型,采用 Apache 2.0 许可,可免费使用、修改和分发。该模型具备线性时间推理能力,官方测试了最高 256k tokens 的上下文检索,并称其表现与 SOTA Transformer 模型相当。

    推荐理由:Mistral 发布 Codestral Mamba,给出线性时间推理、256k 上下文测试和 Apache 2.0 许可,可对照其与 Transformer 代码模型的差异。

7月10日周三
  1. Railway Blog62

    Railway 模板返现可提现美元,25% 分成、$100 起提

    Railway 的 Template Kickback 计划现在支持把模板返现收益兑换成美元,按模板在平台上产生的算力消费给予 25% 返现,无上限。提现通过 GitHub Sponsors 或 Buy Me a Coffee 进行,最低提现额为 100 美元,此前返现默认自动转为 Railway Credits 抵扣账单。

    推荐理由:Railway 把模板返现从平台积分改成可提现美元,并给出提现门槛与通道,做模板的人可据此判断收益能否落袋。

4月18日周四
  1. Supabase Blog62

    Supabase Storage 正式支持 S3 协议,公开 alpha 上线

    Supabase Storage 现在成为 S3 兼容的存储服务,该功能以公开 alpha 形式上线,同时断点续传从 Beta 转为正式可用。用户可用 access_key 与 secret_key 或带 RLS 的用户级凭证鉴权,接入 AWS CLI、rclone、Cyberduck 等 S3 兼容工具,并支持通过 S3 协议进行分片并行上传。

    推荐理由:Supabase Storage 官方说明 S3 协议支持与两种鉴权方式,可据此判断现有 S3 工具链能否直接接入。

2月16日周五
2月8日周四
  1. Hugging Face Blog62

    Hugging Face 为 TGI 推出兼容 OpenAI 的 Messages API

    Hugging Face 为 Text Generation Inference(TGI)推出 Messages API,从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口,并同步上线 Inference Endpoints 的专用与无服务器版本。

    推荐理由:Hugging Face 官方发布 TGI 的 Messages API,给出从 OpenAI 迁移到开源模型的代码示例与限制说明。

1月14日周日
1月10日周三
12月5日周二
  1. Hugging Face Blog62

    Hugging Face 发布 Optimum-NVIDIA,一行代码加速 LLM 推理

    Hugging Face 发布推理库 Optimum-NVIDIA,只需把 transformers 的 pipeline 导入改成 optimum.nvidia 一行代码,即可在 NVIDIA 平台获得最高 28 倍吞吐提升和 1,200 tokens/秒,首 token 延迟最高快 3.3 倍。

    推荐理由:Hugging Face 官方发布 Optimum-NVIDIA,给出改一行代码即可提速的实测数据与代码示例。

11月9日周四
10月27日周五
  1. Hugging Face Blog62

    Hugging Face 用自家代码库微调 StarCoder 打造个人 Copilot

    Hugging Face 团队用自家 GitHub 组织的公开仓库代码微调 StarCoder,做出名为 HugCoder 的个人代码助手,并公开了完整流程。数据采集上他们克隆全部公开仓库本地提取内容,只保留代码文件并排除 .git、__pycache__ 等路径,最终数据集发布在 Hub 上。

    推荐理由:完整给出从数据采集到 QLoRA 微调、VS Code 接入和本地部署的流程与成本对比,可照着复现。

10月19日周四
9月27日周三
  1. Mistral News62

    Mistral AI 发布首个 7B 参数开源模型 Mistral 7B

    Mistral AI 发布首个 7B 参数模型 Mistral 7B,采用 Apache 2.0 许可,官方称其在所有标准英文与代码基准上超过现有 13B 参数以内的开源模型。该模型可用于摘要、结构化与问答等任务,处理与生成文本速度更快、成本更低。Mistral AI 同时开放 GitHub 仓库和 Discord 频道,并表示后续将发布更大模型及面向企业的本地部署方案。

    推荐理由:Mistral AI 官方发布首个 7B 开源模型并说明开放权重路线,可了解其与闭源模型的定位差异。

9月8日周五
  1. Bun Blog78

    Bun 1.0 正式发布,定位为一体化 JavaScript 与 TypeScript 工具链

    Bun 1.0 正式发布并进入稳定、可用于生产的状态,它是一个集运行、构建、测试和调试于一体的一体化 JavaScript 与 TypeScript 工具链。Bun 可作为 Node.js 的直接替代品,内置包管理器、Jest 兼容的测试运行器和打包器,官方称启动速度最高比 Node.js 快 4 倍,bun run 平均耗时 7ms。

    推荐理由:Bun 1.0 把运行时、包管理、测试与打包整合进单一工具,并给出与 Node.js 各环节的性能对比。

8月25日周五
8月8日周二
  1. Hugging Face Blog62

    Hugging Face 发布 swift-transformers,在 Apple 设备上运行本地 LLM

    Hugging Face 发布 swift-transformers,一个用 Swift 实现 transformers 风格 API 的开发中 Swift 包,聚焦文本生成,并同时放出 swift-chat 示例应用、更新版 exporters 与 transformers-to-coreml 转换工具,以及 Llama 2 7B、Falcon 7B 等已转换模型。

    推荐理由:Hugging Face 发布 Swift 端 transformers 风格库与转换工具,Swift 开发者可据此在 Apple 设备上跑本地 LLM。

7月18日周二
6月15日周四