Qwen、Llama、DeepSeek:本地部署怎么选
2026/8/2 9:24:00 人气 2
AI 模型与开源模型
选择开源模型时,不要只看参数量。还要比较中文能力、工具调用、上下文长度、量化格式和社区支持。 如果主要做中文问答,可以先用同一测试集比较回答质量、首 token 延迟和显存占用,再决定模型和推理框架。
Admin-小和
如果自己都不在乎自己 那还有谁在乎你
ID1000
精灵 九级
更多...
江门
博客
相册
帖子
跟帖
0
收藏
回顶
举报
关注
管理
GGUF、GPTQ、AWQ 量化格式有什么区别
发表回复
支持你!
通知楼主
附件
更多回帖(0)
只看楼主回复
返回上级
返回首页
登录
注册
返回页面
帖子
请选择搜索类型
帖子
文章
会员
发表回复