断网也能用!3GB内存跑无损35B大模型,你的手机可以部署吗?
很多人一直觉得,本地跑大模型是高端电脑、旗舰手机专属。想要35B这种大参数模型,至少十几GB内存起步,普通手机根本碰不了。最近开源社区推出的MoE架构模型,打破这个固有认知,峰值仅占用3GB内存,还能断网离线运行,官方测试能力接近原版模型。
苹果回应OpenAI造硬件:“我们不慌”——但这场AI路线之
苹果回应OpenAI造硬件:“我们不慌”——但这场AI路线之争,才刚刚开始摘要:当OpenAI携ChatGPT的声势进军硬件领域,苹果首次公开表态:“我们没感到有威胁。”这句话背后,是两条截然不同的AI路线之争:一边追逐AGI的星辰大海,一边守护用户隐私的柴米油盐。
新 iPad mini 发布:5499 元起!应有尽有,除了高刷
就在刚刚,苹果无预警上线搭载 A20 Pro 芯片的新 iPad mini。没有发布会,没有预热视频,这款全新 iPad mini 就直接低调上架了苹果官网。虽然发布得很随意,但在官方新闻稿里,苹果甚至直接将它定义为「有史以来最大的 iPad mini 更新」。
新 Mac mini 首发实测:我的第一台「多 Agent」电脑
Mac mini 除了被个人消费者疯抢,在企业市场同样供不应求,就连 OpenAI 都要买上数万台 Mac mini 和 Mac Studio 来进行模型的训练,Anthropic 也在亚马逊 AWS 上租赁大量的 Mac 服务器。
iPhone 18 Pro 系列正式开售,新 AI 功能「自相矛盾」
听上去好危险,iPhone 怎么能做这样的事——不要怕,如果你打算买 iPhone 18 Pro 系列,上面带来了最新的对狙 AI 的 Apple Reference Image。
你的手机能跑35B大模型了!只要3GB内存,还无损
其在iPad Pro实测数据显示,该模型解码速度超15 token/s,以及在iPhone 17 Pro Max上仅使用3GB内存即可实现超13 tokens/s的解码速度。
一文搞懂模型名称的 B、GGUF、MTP、A3B、E4B 都是啥意思
满屏模型名像天书,选错白花钱跑不动,你的电脑能跑哪个?最近逛Ollama和HuggingFace,满屏都是什么Qwen3.6-27B-MTP-GGUF、35B-A3B,看着跟密码一样。
华为汪涛:华为要打造AI算力底座,只做好一颗芯片远远不够
会后,汪涛接受量子位专访时把这个变化说得很直白:从今年开始,950、960、970、980连续几代,未来几年我们坚持一年一代,走入了快速演进的节奏。
8G显卡还能这么玩?我在电脑里“捏”了个会听、会说的赛博AI女友
前言8G 显卡拿来跑本地大模型,我已经见得太多了。真正让我觉得有意思的,是这次它不再只是一个聊天框。我可以先给她选一张形象,再换成自己喜欢的声音,接着写几句人设,决定她说话是偏安静、偏毒舌,还是更像一个陪你聊天的人。
苹果首次公开iPhone图像防伪技术,给照片加上“身份证”
在AI图像越来越普遍的当下,这项技术对照片防伪和溯源给行业提供了一个参考。需要注意的是,参考图像目前仅支持iPhone 18 Pro和iPhone 18 Pro Max的主摄,iPhone Duo等设备不能使用。