LLM 速度测试台

大模型推理性能基准 · 预填充 / 首字 / 解码
空闲
首字延迟
ms
预填充速度
tok/s
解码速度
tok/s
上文 Tokens
tok
输出 Tokens
tok
总耗时
ms

📋 测试日志

🗂 测试历史

🔍
# 时间 名称 提供商 模型 并发 采样 首字 ms 预填充 tok/s 解码 tok/s 状态 操作