国产AI芯片现状：昇腾够用但制造是最大瓶颈
聊一下国产 AI 芯片的现状。不是喊口号，看实际数据。华为昇腾 910B 是目前国产 AI 芯片里出货量最大的。性能对标 NVIDIA A100，实际训练效率大约是 A100 的 70-80%。差距在互联带宽上——A100 用 NVLink 互联带宽 600GB/s，昇腾用自研 HCCS 互联，带宽约 280GB/s。多卡训练大模型时互联带宽很关键，差距主要体现在这里。
寒武纪的思元 590 是另一款国产 AI 芯片。单卡算力跟昇腾差不多，但生态弱——CUDA 的替代品 Cambricon Neuware 用的人少，迁移成本高。大部分公司还是优先选有 CUDA 生态的卡。
摩尔线程、壁仞这些创业公司的卡主要做推理，不做训练。训练对精度和稳定性要求高，创业公司的卡目前还不够成熟。但推理场景门槛低，功耗和成本有优势就行。
核心瓶颈不在芯片设计，在制造。台积电不给代工先进制程了，国内中芯国际能做到 7nm 但良率低、产能有限。芯片设计的再好，造不出来也白搭。这是整个国产芯片行业最大的卡脖子问题。
另一个短板是生态。NVIDIA 的护城河不是芯片本身，是 CUDA 生态十几年积累的软件栈。PyTorch、TensorFlow 这些框架底层都是 CUDA 优化的。换到国产芯片上，这些优化都要重新做。华为在推 CANN + MindSpore 替代 CUDA，但迁移成本高，大部分开发者不愿意换。
实际使用体验：如果你只是做推理部署，国产卡够用了。7B 级别的模型推理，昇腾 910B 的性价比不差。但如果你做大规模训练，特别是千亿参数模型的分布式训练，NVIDIA 还是唯一选择。短期内这个格局不会变。
政策驱动是最大的利好。政府和国企的 AI 算力采购已经明确要求国产化比例。2025 年新建智算中心国产芯片占比超过 50%。这个市场够大，够养活国内芯片公司。
https://www.metk.cn/img/posts/ai_chip_domestic.jpg 这个判断我认同，短期看价格，长期还是看能不能嵌进业务流程里。 这个成本账算得很实在，我这边也是类似情况，量小的时候真没必要自己折腾。 楼主写得很克制了，实际落地的坑还要多。我们部门试点三个月，最后砍掉了一半场景。 这个观点有点绝对了，具体还是看团队的技术储备，不是所有人都能接得住。 看得出来是真做过的人写的，不是那种拼资料的。 有个细节想确认，你说的这个数据是实验室环境还是生产环境跑出来的？ 同意楼主，但落地的时候一定要考虑老系统的兼容，改造成本容易被低估。 这个思路和我之前想的差不多，关键是别一次性铺太大，小步试错。 我之前也研究过这个方向，最后放弃了，主要是我这边数据量根本不够。