作者 · 1 篇文章

Hello AI with Jia

这里列出作者收录的实践记录和思考。

排序
时间

1 篇文章

124B MoE 跑进 128GB:Ling-3.0-flash 的 DGX Spark 部署、ABI 排雷与 15 题实测

Ling-3.0-flash是一款总参数约 124B、每 Token 激活约 5.1B 的稀疏 MoE 文本模型。单台 DGX Spark 只有 128GB 统一内存,除权重外还要容纳系统、MLA KV Cache、KDA recurre…