在 ESP32 上跑 55M 参数语音转文字模型：Whistle 剪枝到 14.5 MB

开发者把 Cactus Compute 的 55M 参数语音转文字模型 Whistle 跑在 ESP32 上，原模型 16.9 MB 超出板载容量，将解码器从 8 层砍到 4 层后压到 14.5 MB，词错误率约 11.5%。推理引擎用 C 从零编写，采用 2-bit 权重，调用 S3 的向量指令并同时使用两个 CPU 核心。