跳到正文
热点事件持续更新

Lumabri:C 语言分布式私有推理服务

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 22 日,Hacker News 的 Show HN 板块出现 Lumabri 项目。它是一个用 C 语言编写的私有推理服务,核心做法是把单台电脑放不下的大模型按层拆分,分散到多台电脑和服务器上运行;参与运行的 worker 不需要各自保存完整模型副本。网络方面,它通过 TCP 47300 与 47301–47315 端口、UDP 47300 做局域网发现与连接。资源管理上,每台机器可设定共享的 RAM 上限,最多同时保留 4 个模型分配,每个计划预留 1–8 个隔离会话槽。目前该项目仍处于 Show HN 展示阶段,报道未提及后续版本、性能数据或采用情况。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Hacker News Show HN
    Show HN:Lumabri 用 C 语言把大模型推理分散到你的多台电脑和服务器上

    Lumabri 是一个用 C 编写的私有推理服务,可把放不进单台电脑的模型按层拆分到多台机器上运行,worker 无需各自保存完整模型副本。它通过 TCP 47300 与 47301–47315、UDP 47300 做局域网发现与连接,每台机器可设定共享的 RAM 上限,最多同时保留 4 个模型分配、每个计划预留 1–8 个隔离会话槽。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。