淘宝MNN团队开源0.3B手机模型，苹果iPhone 18 Pro离线跑出350 token/s
IT之家 11 月 6 日消息，淘宝旗下 MNN 团队今日发布了 MNN-Pocket-0.3B 模型，面向手机应用的任务需求与资源预算，在有限算力、内存和能耗下，兼顾任务能力、响应速度与持续运行体验。
三万字长文：大语言模型从零入门
从图灵测试到香农的熵，从单个神经元到千亿参数，这篇文章用猜数字和接龙游戏串起大语言模型的完整原理。人脑里没有反向传播，没有 Q、K、V，思考时也不是一个 token 一个 token 地往外蹦;
不反向传播也能预训练Transformer，Jeff Dean投的这家公司出成果
论文里的实验最大也只到 243M 参数、20M token 的训练预算，和工业界动辄千亿 token 的预训练相去甚远。
Day14 · 字典与集合
Day14 · 字典与集合阶段：阶段一 · 核心基础 | 前置：Day13 | 技术基准：Python 3.15.
Apollo和Nacos，不用@RefreshScope也能让@Value自动刷新？
开篇：一个让无数程序员深夜排查的"玄学Bug"先讲个真实场景。你信心满满地给Bean加了个@Value("${sms.daily-limit:1000}")，配上Nacos，改完配置点发布——毛都没变。
NeurIPS'26：注意力也是FFN？从快权重出发，重新理解高效注意力
一直以来，在Transformer架构中，注意力与前馈网络被认为是两个功能不同且互补的模块:前者让词元彼此交互，后者对每个词元进行非线性变换。
如何让【模型本身】具有记忆：存入参数
在我们使用 Agent 的时候，经常会把 Skill 越写越多、越写越长，希望把这些记忆和所有可能用到的东西都放在 Skill 里。
有人每月烧掉1万美元！嫌Claude太贵，这家公司改用GLM：56张B200扛起2000名工程师，AI成本直降90%
可随着使用规模扩大，成本很快成了问题。Revolut 运维与基础设施负责人 David Abitbol 透露，有些工程师每个月在 AI 服务上的支出高达1 万美元，但实际获得的投资回报并不明显。
GitHub star量过千，第一个会自己改学习规则的视觉骨干开源了
在配备 NVIDIA GPU、CUDA 12.1 工具链和 Python 3.10 的 Linux 环境中，可按以下命令完成安装，底层 CUDA 算子会在首次调用时自动编译:
推理算力需求快速攀升：智算服务器供不应求，新的万亿级别蓝海市场出现
在AI行业，寒暄已经从“机器有多少P（PFLOPS）”“能抢到多少张卡”，变成“能调到多少Token”“生成一个Token的成本是多少”。10月18日，在2026全国高性能计算学术大会上，多位业内人士表示，推理算力成为需求主体，市场的关注重点转向Token性价比。