Back to AI Radar

Verinfer

对真实推理服务做性能 CI:对比基线的 TTFT、吞吐、质量和每百万 token 成本,噪声太大标为 inconclusive,回归才让构建失败并通知 Slack。

Project analysis is shown in its source language.

Developer ToolsDeveloper ToolsArtificial IntelligenceAnalyticsSaaS
Visit website

Discovery source

First added in the .com report on Nov 1, 2026

View report

Project insights

Value proposition
升级引擎或上 FP8 之前先知道变慢、变贵还是变差,而不是把 GPU 抖动当成回归。
Problem solved
正确性测试过了,吞吐看板还显示变快,用户等首 token 却多等了数倍。
Pricing model
需申请访问;GitHub Actions 在自有 GPU runner 上跑,托管仪表盘带组织与 SSO,官网未公布月费。
Target persona
在 vLLM、SGLang 或 TensorRT-LLM 上发推理服务的平台与 SRE 团队
Business type
B2B

Screenshots

Verinfer landing_page