这种问题需要通过实际测试或者根据具体的系统配置和作业要求来评估。
-
ModelScope中，单张4090，跑qwen1.5-14b-awq，能支持多少并发？
4090显卡在ModelScope中的性能NVIDIA A100 40GB（通常简称为A100 40G或4090）是基于Ampere架构的高性能计算卡，专为数据中心和深度学习任务设计，ModelScope是一个虚拟环境，用于管理和调度GPU资源，以便用户能够运行机器学习模型和其他高性能计算作业。A100 40G……
