V2EX 最新主题· tianmenshan·· 4 小时前AI 评分42
AIask 上线新模型 mercury-3，用扩散生成推理加速响应
[推广] [AIask]上线新模型 mercury-3，以扩散生成推理方式加速模型响应速度
AI 导读
AIask 上线扩散式语言模型 mercury-3，先出答案草稿再迭代修改，可一次生成多个词元。据称其在英伟达显卡上吞吐量达每秒 1068 个词元，Claude Haiku 5.5 约 240 个、GPT-6 Luna 约 130 个。该模型面向 AI 代理、搜索、客服、辅导等场景，需注册后创建 API 密钥并在分组中选择“默认”分组使用。
来源：V2EX 最新主题 · v2ex.com