Pages
Pages

35fly.com

ollama和vllm部署deepseek大模型的区别

35fly.com 
一般民用显卡的显存都是在16GB以内,如果选择部署DeepSeek大模型大家只能选择16G大小以内的模型。这种模型一般都是蒸馏或者量化版本的
PV :   UV :
2023 - 2026 35fly.com | 
京ICP备2020043735号-2