作者 · 1 篇文章

前端哥Liam

这里列出作者收录的实践记录和思考。

排序
时间

1 篇文章

M1 Max 本地部署 Ling-3.0-tiny INT4:32GB Mac 实测约 64 token/s

最近看到 X上不少人用 NVIDIA DGX Spark 部署千亿级别的大模型,看着有点眼馋,但是咱穷啊,玩不起 spark。能玩的就是自己这台老爷机,2022年的第一代Mac Studio。