跳到正文

#开源替代

今日 0 条
10月16日周五
  1. Hacker News Ask HN20

    Ask HN:如何在普通电脑上实现前沿级本地 AI 能力

    一位开发者提出构想:让用户下载多个小型开源权重模型,由一个路由模型充当决策者,根据任务类型(如编程)分派不同模型执行,各模型的记忆与工作过程保存为 .MD 文件,从而在完全本地环境下完成实际工作。他提到已有将 LLM 权重分散存储在 SSD、每次仅在 GPU/SoC 上加载单个专家的做法,并希望了解其他人的思路。

10月15日周四
10月13日周二
10月11日周日
  1. Hacker News 首页22

    Unikernels 曾经很难,关键词是"曾经":AI 让移植 Stripe 库和重写 mkfs.xfs 变得可行

    曾参与 MirageOS 和 Unikernel Systems 的 Justin Cormack 认为,unikernel 过去难在缺少存储驱动、要自己用库实现 TCP/HTTPS 等一切,而如今这些硬概念已进入模型权重,只需 prompt 即可。他举例用 agent 把 Go 库移植成 OCaml 版 Stripe,几小时内用 Rust 重写 mkfs.xfs 并做到逐字节一致输出。

10月10日周六
10月9日周五
10月8日周四
  1. HackerNoon34

    开源还是闭源 LLM?独立开发者到底该用哪个

    面向 Agent 开发者,多数场景的答案是两者都用:难推理任务用闭源前沿模型,嵌入、重排、抽取等高频重复任务用自托管的开放权重模型。文章指出所谓"开源"多为开放权重,OLMo、Pythia、T5 才算开源,Qwen3、DeepSeek V4、Llama 4、gpt-oss 属开放权重,且许可证差异大。计费上闭源 API 按 token、自托管 GPU 按小时,高频稳定负载自托管更省。

10月7日周三
  1. Simon Willison's Weblog36

    Simon Willison 评 EmbeddingGemma 2:Apache 2.0 许可对嵌入模型很重要

    Simon Willison 表示欣赏 EmbeddingGemma 2 采用 Apache 2.0 许可,认为嵌入模型不适合用闭源、仅托管的形式提供。他指出嵌入模型通常要计算并存储成千上万甚至数百万条向量,一旦厂商停供专有模型,用户就得为重新计算这些存量向量付费;2024 年 4 月 OpenAI 曾提出承担用户用新模型重新嵌入内容的费用,但他认为不能指望每家供应商都这么做。

9月16日周三
  1. Together AI Blog22

    Together 谈如何从闭源模型迁移到开源模型

    Together 给出从闭源模型迁移到开源模型的策略:借助托管服务,迁移周期可从数月到数年缩短到数周到数月。先用 The Open Frontier、Artificial Analysis、Epoch AI、Vals AI 等榜单按用例筛选候选模型,再对比每任务成本、token 消耗与端到端耗时,最终留下 2-3 个进入正式评测。

9月11日周五
  1. SuperTools(The Rundown AI)28

    Anthropic 发布 150+ 页威胁报告,披露全球 Claude 滥用案例

    Anthropic 发布最新威胁报告,详述过去八个月里被其阻断的 Claude 滥用案例,包括生物武器疑点、间谍活动,以及中国 AI 实验室用 Claude 冒充自家模型对外提供服务。报告点名 Alibaba、DeepSeek、Moonshot、Xiaomi 等七家中国实验室,称其依托数千个欺诈账号进行蒸馏。这些行为均发生在 Opus 级及以下模型上。

9月9日周三
8月21日周五
6月18日周四
5月21日周四
3月17日周二
10月29日周三
10月21日周二
9月17日周三
7月30日周三
5月15日周四
5月13日周二
4月23日周二
1月30日周二
9月11日周一
8月31日周三