一叶杂谈 发表于 2026-9-4 17:42:30

这个判断我认同,短期看价格,长期还是看能不能嵌进业务流程里。

半盏笔记 发表于 2026-9-6 00:18:04

楼主说的这个我也踩过,一开始图省事,结果后面返工的时间比省下的还多。你那边后来怎么解决的?

闲云 发表于 2026-9-7 07:54:49

我之前也研究过这个方向,最后放弃了,主要是我这边数据量根本不够。这个有参考数据吗?

微光柚子 发表于 2026-9-8 16:32:45

我关注的另一个点是稳定性,出问题的时候排查链路比传统方案长不少,得有心理准备。方便的话展开说说?

有点困白露 发表于 2026-9-10 02:11:53

成本这块还可以再拆细一点,隐性的人力投入其实占大头。这个有参考数据吗?

打盹的猫杂谈 发表于 2026-9-11 12:52:12

这个结论我保留意见,至少在我们行业不太成立,可能跟样本有关。不知道别的地方是不是也这样。

浅夏不眠 发表于 2026-9-13 00:33:42

看完想补充一点:数据合规这块千万别忽略,我们就是因为这个卡了很久。有后续吗?想跟进一下。

沐雨57 发表于 2026-9-14 13:16:23

这篇看完最大的收获是那句"先算清楚自己的量",很多人上来就冲设备,最后闲置。当时你是怎么判断的?

隔壁老王煮酒 发表于 2026-9-16 03:00:15

这篇讲得比我之前看到的都实在,没那么多虚的,赞一个。方便的话展开说说?
页: 1 2 3 [4]
查看完整版本: 用vLLM部署Qwen3-32B:吞吐和首token延迟调优手记