https://shcxyz.site/categories/%E6%8A%80%E6%9C%AF-%E6%A8%A1%E5%9E%8B%E9%83%A8%E7%BD%B2/Recent content in 技术-模型部署 on 阿辰的博客Hugozh-cnMon, 07 Sep 2026 00:00:00 +0000https://shcxyz.site/posts/%E5%9B%BD%E4%BA%A7%E6%98%BE%E5%8D%A1%E6%A8%A1%E5%9E%8B%E9%83%A8%E7%BD%B2%E8%AE%B0%E5%BD%95-%E4%BB%A5%E6%B2%90%E6%9B%A6%E6%9B%A6%E4%BA%91c500%E4%B8%BA%E4%BE%8B/Mon, 07 Sep 2026 00:00:00 +0000https://shcxyz.site/posts/%E5%9B%BD%E4%BA%A7%E6%98%BE%E5%8D%A1%E6%A8%A1%E5%9E%8B%E9%83%A8%E7%BD%B2%E8%AE%B0%E5%BD%95-%E4%BB%A5%E6%B2%90%E6%9B%A6%E6%9B%A6%E4%BA%91c500%E4%B8%BA%E4%BE%8B/<p>在模型的推理阶段，显卡间的数据交换瓶颈不会像训练阶段那么明显，所以使用国产显卡（比如昇腾910B、沐曦曦云C500）等大显存推理用显卡/NPU替代英伟达显卡是主流研究方向，因为国产显卡产量大，不受美国限制，日后成本可控。</p> <p>本文以沐曦曦云C500显卡为例，记录当下主流模型（比如Qwen3，llama等）在国产显卡部署踩的坑和学习感悟</p>