孤舟记事 发表于 2026-8-25 07:52:01

我觉得还有个变量是政策,这两年变化太快,方案得留调整余地。

远山 发表于 2026-8-26 04:15:44

看得出来是真做过的人写的,不是那种拼资料的。

榴莲铺子 发表于 2026-8-27 01:40:38

写得挺到位的,不过我觉得还是要区分"能用"和"好用",中间差着一大截。

北岛不吃香菜 发表于 2026-8-28 00:06:43

同感。这东西不是不能用,是很多人把它当万能药了,场景不对就是白花钱。

寒山记事 发表于 2026-8-28 23:33:59

我这边的情况刚好相反,一开始不信,硬着头皮上了半年反而离不开了。

一苇 发表于 2026-8-30 00:02:26

用过类似的,前期调优确实费人,但稳定跑了之后省心不少,值得。

有点困看海 发表于 2026-8-31 01:32:04

这个思路和我之前想的差不多,关键是别一次性铺太大,小步试错。

青柠79 发表于 2026-9-1 04:02:54

有个坑提醒一下,接口一变整套流程都得跟着改,最好提前做抽象层。

山有木杂谈 发表于 2026-9-2 07:34:55

同问,你那边上线之后有没有做过效果复盘?想看看真实数据。

清风34 发表于 2026-9-3 12:08:07

同意楼主,但落地的时候一定要考虑老系统的兼容,改造成本容易被低估。
页: 1 2 [3] 4
查看完整版本: 用vLLM部署Qwen3-32B:吞吐和首token延迟调优手记