推理芯片系列文章一:训练芯片和推理芯片,分水岭到底在哪
同一张加速卡,装进训练集群是一种命,装进推理集群是另一种命。前面问的是:这一轮训练,能不能跑完。后面问的是:这一次回答,花多少钱。参数表上看不出这种差别,进了机房才看得出来。下面这张图是本篇的骨架。骨架之后,一根一根拆。
从端侧推理到物理AI,芯片行业正面临新考题
但2025年到2026年之间,风向悄悄变了。IDC 的统计口径下,2025 年全球AI PC出货量约1.14亿台,渗透率约43%;
老黄藏八年的秘密!开源项目翻两个bit让显卡算力翻倍,跑分炸裂
作者:伯衡君概述142对71,恰好是严丝合缝的整数倍,分毫未差,明明白白印刻在英伟达旗下RTX 3090的官方规格参数表中。同样的16位输入数据,若将累加结果以16位精度存储,算力标称可达142 TFLOPS;若转以32位精度存储,算力便回落至71 TFLOPS。
从产品角度:1折的算力到底是怎么“掺水”的
在AI产品圈子里,一直流传着一个心照不宣的黑色幽默:“如果一个AI创业公司的财报上,API调用成本低得像是在做慈善,而它的用户留存率居然还挺高,那它要么是掌握了常温超导,要么是找到了一个极其听话的‘Token黄牛’。”
刚刚,Opus 5.5极速版全面解禁!最高2.5倍速度
就在刚刚,Claude最强模型极速版,全面解禁了!目前,极速模式仅支持 Opus 5.5、Opus 5 和 Opus 4.8。
一块盘顶一套房!深圳,跑出1500亿存储巨头
9月上旬,大普微董事会换届,杨亚飞连任董事长、CEO,继续领导他所创立的公司。他本科、硕士均就读于北京邮电大学,后来赴美,在罗德岛大学攻读电子工程博士学位。
黄仁勋14天交付算力集群,配合DeepSeek开源引擎,单卡每小时38美金立刻开赚
按这个账算,如果是万卡集群,14天上线后,满负荷、客户全满的理想状态下,每小时收入可以到38万美金。
刚刚,Opus 5.5极速版全面解禁
就在刚刚,Claude最强模型极速版,全面解禁了!目前,极速模式仅支持 Opus 5.5、Opus 5 和 Opus 4.8。
太敢玩了!英伟达把算力集群做成预制菜,14天就能上线产Token?
今天,英伟达直接把算力集群搞成了预制菜,从0到开始平地起数据中心到开始产token只需14天。按这个账算,如果是万卡集群,14天上线后,满负荷、客户全满的理想状态下,每小时收入可以到38万美金。
算力租赁潮之后,上市公司扎堆“建厂”卖Token|直击2026中国算力大会
财联社9月13日讯(记者 付静 张校毓)位于北京亦庄的北京壹号词元工厂内,一块大屏幕上显示了TTFT(Time to First Token,首Token响应时间)、TPOT(Time Per Output Token,Token输出耗时)、TPM(Tokens Per Minu