Hugging Face 如何为 🤗 API 客户把 Transformer 推理提速 100 倍
Hugging Face 通过组合 Transformers 与 Tokenizers 库的高效方法，为 Accelerated Inference API 客户实现 100 倍推理提速，其中前 10 倍来自优化注意力矩阵计算、Rust 版 tokenizer 与智能缓存。
主题：案例复盘
主题：案例复盘
今日 12 条Hugging Face BlogAI 评分3636
Replit BlogAI 评分3838 Replit 谈 AI 在编程中的角色：从 GPT-3 代码问答到自动修错
Replit 分享了将 OpenAI GPT-3 引入编程的早期实验：@Replit code oracle 能回答代码问题、给出改进建议，还能修复新手常见的语法错误。Replit 认为 AI 不会取代编程，而是消除重复劳动、降低学习门槛，并可能催生新的编程语言与交互方式。
Replit BlogAI 评分1212 Replit 博客：GPT-3 谈可分享计算如何让 App Store 变得多余
OpenAI 的 GPT-3 为 Replit 撰写了一篇客座博客，称基于 repl 的可分享计算会把编程从私有代码转向公开网络，让代码像网页一样可链接、可协作。文章认为这将终结 Apple App Store 和 Google Play 的围墙花园，使应用商店变得无关紧要，并让 DNS 与网站托管等互联网架构过时。