GPU资源评估

模型名称

参数量 (B)

模型精度

QPS要求 (每秒请求数)

响应延迟要求

当前GPU配置

业务场景 (可多选)

智能客服场景

知识库场景

智能体场景

批量任务场景

其他场景

- 模型可能会算错，结果仅供参考！