站内暂无「github vllm-ascend」的结果，已为你找到以下相关资讯：
匠心时刻 | 昇腾FlatQuant、MXFP重构大模型量化新范式
来源：市场资讯（来源：华为计算）在大模型蓬勃发展的今天，模型大小的持续膨胀已成为行业共识。从早期的几十亿参数到如今的千亿、万亿级别，大模型的推理部署面临着前所未有的挑战：显存占用居高不下、推理延迟难以优化、部署成本持续攀升。
Kthena + vLLM-Ascend：云原生大模型推理的编排与调度实践
在KCD Beijing + vLLM 2026上，华为云架构师 Dan 与vLLM-Ascend Contributor Weijun 分享了《云原生架构下分布式大模型推理的编排与调度实践:从PD分离到拓扑感知的全链路优化》。
GLM-5 技术报告全解读——a16z：“最好的开源模型”
a16z 昨天发了一张图，把 GLM-5 和 Claude Opus 4.6 并排标注在 Artificial Analysis Intelligence Index 的时间线上。
壁仞到底“几斤几两”？
开盘股价飙升+82.14%，盘中一度市值突破千亿港元，收盘市值约825亿港元;但抛开这些光环，我们关心壁仞究竟是否是一家优质的公司?
昇腾FlatQuant、MXFP重构大模型量化新范式
从早期的几十亿参数到如今的千亿、万亿级别，大模型的推理部署面临着前所未有的挑战:显存占用居高不下、推理延迟难以优化、部署成本持续攀升。
vLLM AFD Plugin发布：昇腾携手vLLM社区，为MoE推理拆分Attention与FFN，实现灵活部署
来源：市场资讯（来源：华为计算）vLLM AFD Plugin是由InferMatrix项目和昇腾推理技术项目团队主导孵化的一个实验性外部插件，把Attention-FFN分离（AFD）带入MoE推理——将Attention与FFN拆成两个独立部署的服务，让二者按各自的负载特性独