强推神项目Strata！16G显存真能跑125B？踩过3个坑

先别急着换显卡。如果你手上有一台带独显的电脑，不管台式还是游戏本，我建议你先把这个开源项目装上再说。它叫 Strata，MIT 协议开源，GitHub 上 7945 星，上线没多久就冲到这个数。我为什么这么推？

Token自由之路，Strata 又更新了，本地部署大模型的不二之选

Strata（Niko1221/Strata，本地LLM推理引擎） 项目简介：MIT协议开源C++本地推理引擎，目标在消费级PC上运行Qwen3.

在普通电脑上跑125B超大模型？开源神器Strata深度介绍

12GB显存显卡跑125B模型：Strata登场

IT之家 10 月 6 日消息，科技媒体 gigazine 今天（10 月 6 日）报道，报道称开发者 Niko1221 开源推出 Strata 引擎，可以在 12GB 及以上显存的消费级显卡上，运行量化的 Qwen3.8-Flash-Next 模型（1250 亿参数）。

在普通电脑上跑125B超大模型？开源神器Strata深度介绍

最近本地AI圈又出了一个狠角色——Strata。它是一个由 Niko1221 主导开发的开源本地推理引擎（MIT 许可），核心目标非常直接：让普通人在普通消费级硬件上跑超大参数模型。目前最能打的代表作是跑 Qwen3.8-Flash-Next（约125B参数的MoE模型）。

两天本地跑通千亿大模型：我的折腾实录与 Strata 实测

一张 32GB 显存的工作站显卡，就是这次故事的主角导语昨天，我的电脑干了一件“我以为不可能”的事：在本地跑起了一个千亿参数规模的大模型。实测对话输出 138.

Strata：用显存+内存+硬盘协同调度，让普通电脑跑 1250 亿参数模型

一、Strata 是什么GitHub 上的开源模型部署工具，目标是让硬件配置有限的普通电脑也能运行超大参数语言模型，最高支持 1250 亿参数（125B）。即使显卡只有 8GB 显存，也不一定只能跑小模型，本地运行大模型的硬件门槛有望降低。

这届 AI PC，太烧心了

市场研究机构 Omdia 的估算显示，内存与 SSD 在 PC 物料成本中的占比，已从通常的约 15% 一路涨到接近 40%。