跳出逐字生成!深圳跑出大模型黑马,不走ChatGPT老路
21世纪经济报道记者 林典驰大模型的回答,一定要一个字接一个字地生成吗?一家落地深圳的创业公司,正尝试给出另一种答案。10月28日,扩散智能DiffuSpace(下称“DiffuSpace”)发布并开源最新模型Clover-35B-A3B-Preview。
GitHub 超 16,000 Star!开源大模型推理框架 SGLang 中国首场 Workshop 来啦,GOSIM一起相约
责编 | 唐小引 Echo Tang亲爱的开发者们,大模型领域最著名、热度最高、DeepSeek 推荐使用的开源推理引擎之一——SGLang 在国内的首场 Workshop 线下活动来啦!
微信 AI 全网最细体验,我又爱上了刷朋友圈
最近一些用户发现,微信首页左上角突然多出了一双绿色眼睛,这是微信第一个原生 AI 助手「小微」。看起来只是多了一个 AI 助手入口。
参数规模增至5倍、保持“10倍速”:扩散智能DiffuSpace开源Clover 35B-A3B-Preview
封面新闻记者 孟梅10月28日,扩散智能DiffuSpace发布并开源最新模型Clover-35B-A3B-Preview,采用MoE架构,总参数350亿、激活30亿。
GitHub 总计超 77,000 Star,大模型推理框架 vLLM、SGLang 是如何炼成的?
vLLM 和 SGLang 的社区发展故事。作者 | 赵晨、夏小雅责编 | Echo Tang出品丨AI 科技大本营(ID:rgznai100)首先,什么是 LLM 推理?
国产GPU首获全球顶级推理框架「原生门票」:MUSA合入SGLang主线
来源:市场资讯机器之心编辑部如果只看这场 Meetup 的嘉宾名单,你大概会先想到海外芯片巨头,或者某家国际 AI 基础设施公司。
DeepSeek开源真香!vLLM/SGLang性能反超,推理速度卷出新高度
自家推理引擎DeepInfer掏出来还不到一周,开源社区就纷纷交上了作业。真乃一鲸“落”万物生,第一波开源效果已经新鲜出炉:立志学习DeepSeek、成为DeepSeek、超越DeepSeek。
SGLang原生支持昇腾,新模型一键拉起无需改代码
henry 发自 凹非寺量子位 | 公众号 QbitAI当Agent在应用侧不断加速,推理系统能否承受随之而来的真实负载,正在成为行业关注的焦点。这是12月20日在杭州收官的SGLang AI 金融 π 对上,被反复提及的一个背景。
1亿美元种子轮!SGLang团队RadixArk,打造下一代开放AI基础设施
5 月 5 日,AI 基础设施初创公司 RadixArk 宣布完成 1 亿美元种子轮融资,投后估值 4 亿美元。如果说 2023 年的 Anthropic、2024 年的 Mistral、2025 年的 Thinking Machines Lab 各自代表了 AI 模型层一次方向性的下注,那么 2026 年的 RadixArk 下注的东西更底层、也更漫长:让前沿 AI 的建设权,真正回到足够多的人手里。
1亿美元种子轮!SGLang团队RadixArk,打造下一代开放AI基础设施
来源:市场资讯(来源:机器之心Pro)机器之心发布5 月 5 日,AI 基础设施初创公司 RadixArk 宣布完成 1 亿美元种子轮融资,投后估值 4 亿美元。无论金额、估值还是投资人阵容,这都是 2026 年 AI Infra 赛道中目前最重的一笔早期下注。