微软打造了一颗怪兽级别的芯片
如果每个人都面临 AI 推理问题,即使使用最先进的 GPU 和 XPU 加速器,生成代币的成本仍然过高,那么微软可能面临着世界上最大的推理问题。
昇思 MindSpore 大模型:线性代数
一、摘要大模型(Transformer)几乎所有计算都建立在线性代数运算之上:矩阵乘法、向量内积、矩阵转置、张量分块、矩阵求逆、归一化、外积等。MindSpore 提供两套线性代数能力:基础张量算子(matmul, batch_matmul) 和 mindspore.
微软这颗芯片,撼动英伟达?
微软尚未公布 Braga 芯片的技术规格或框图,但我们知道其张量单元的 FP4 精度性能为 10.15 petaflops,FP8 精度性能为 5.07 petaflops,向量单元的 BF16 精度性能为 1.27 petaflops。
在AI模型里塞进一台电脑,再让它跑另一个AI
10月31日,一位叫Divyansh Agrawal(X账号@divagr1925)的独立开发者在X上发了一段16秒的演示视频,开头一句话就很有画面感:“在大模型里装一个CPU已经够离谱了,在大模型里再跑一个大模型,是不是有点过分?”他的新项目叫QwenPU。
刷新全球性能纪录,新型CPU在上海发布,AI有了新的“硬通货”
“这是第一款可对标市面上主流服务器级别产品的RISC-V CPU。”3月24日,上海黄浦江畔,高通、海尔、中兴通讯、全志科技等全球数十家产学研机构齐聚一堂,共同见证一款新型CPU的诞生。阿里巴巴达摩院发布最新一代旗舰CPU玄铁C950,刷新全球RISC-V性能纪录。
从GPU、LPU到“MPU”:熵旋芯智以MITA架构重算AI推理成本
大模型推理的性能瓶颈随工作负载而变化。Prefill阶段具有较高的矩阵计算并行度,而在低批量Decode场景下,模型权重访问难以被大量Token摊销,存储带宽与数据搬运成本往往成为影响推理效率的重要因素。随着上下文增长,KV Cache访问又会带来额外的存储压力。
达摩院首席科学家孟建熠:RISC-V进入通用高性能和AI计算“攻坚战”
封面新闻记者 张越熙3月24日,2026玄铁RISC-V生态大会在上海举行。高通、Arteris、Canonical、SHD Group、海尔、中兴通讯、全志科技、北京智芯微、南芯科技等全球数百家产学研机构分享RISC-V前沿实践。
芯片,横向堆叠
HBM4 基片的功耗为 9 W,其中 6 W 分配给物理层 ,剩余的 3 W 分配给硅通孔 和 I/O。对于 HBM4 和 V-die 架构,每个 DRAM 芯片的功耗均为 2 W,其中 1.5 W 用于存储体,0.5 W 用于 I/O 。
刚刚,阿里达摩院祭出开源架构CPU王炸,直指 AI Agent
在这样的产业大变局下,就在今天上午,阿里达摩院在2026玄铁RISC-V生态大会上重磅发布了新一代旗舰CPU IP——C950,其不仅在SPECint2006基准测试中史无前例地突破了70分大关,更首次实现了RISC-V CPU流畅跑通千亿参数顶尖大模型。