返回
社区
找工
自荐
News
消息
我
返回
返回
anby.wtz
ENFP | 后端 | 2024届高中生
为了省钱用本地Qwen3.8 27B Vibe Coding,思维链怎么这么长啊。开40K上下文不够用一轮的,显卡真放不下了(
9月2日
登录并发表评论
评论 · 5
anby.wtz
9月2日
哦原来把思考强度从xhigh改成medium就行了(
Mouna
9月2日
我还在追更hhh
Mouna
9月2日
inference 输出时间怎么样呀
anby.wtz
9月2日
我这边2张3060跑Q4量化能跑到30tok/s
anby.wtz
9月2日
但是如果kv缓存放内存的话就只有7点多了