热点事件持续更新
独立开发者用OpenAI词表做Python压缩器TokPress
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月21日,一位独立开发者在HackerNoon发文介绍其纯Python无损压缩器TokPress:以OpenAI的o200k_base词表为基础,流程为先分词、再对token id跑LZ77、最后用rANS熵编码。作者给出的测试结果是:把150条JSON日志合并成一个流压缩后仅剩0.0875×,但逐条单独压缩反而会变大;训练字典后压缩比可达0.2565。横向对比中,它在散文上胜过gzip,却输给zstd的训练字典模式。目前进展停留在作者自述的实验结果,报道未提及发布、开源或后续迭代。
AI 根据报道生成 · 1 小时前更新
最新进展10月21日 15:28
作者公布TokPress测试结果:合并日志压缩至0.0875×,散文胜gzip但不及zstd。报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- HackerNoon我用 OpenAI 的 Tokenizer 做了个 Python 压缩器 TokPress,结果如何
独立开发者用 OpenAI 的 o200k_base 词表做了一个纯 Python 无损压缩器 TokPress:先分词,再对 token id 跑 LZ77,最后用 rANS 熵编码。150 条 JSON 日志合并成一个流压缩后只剩 0.0875×,但逐条单独压缩反而会变大;训练字典后压缩比可达 0.2565。它在散文上胜过 gzip,但输给 zstd 的训练字典模式。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。