WquGuru
@wquguruAI+量化+工程 AI/Invest/Biz/Ship资讯→wqu.guru/newshub 打造Agent PoC→agentway.dev 📮 [email protected]
2W5444.6K
作者 · 3 篇文章
WquGuru
这里列出作者收录的实践记录和思考。
3 篇文章
图解 ASR 和 TTS：HuggingFace 开源模型测评
HuggingFace 被英伟达以 130 亿美元收购的消息，把这座开源模型宝库又推上了热搜。那我们不妨顺手挖一挖：这里面有没有真正实用、能在本地跑起来的宝藏？
图解大语言模型部署
自部署大模型时，你真正需要关心的指标可以归纳为一句话：首字够不够快（TTFT），字出来够不够连贯（TPOT/ITL），并发多了吞吐掉不掉（系统吞吐），显存能不能装下且留有余量（VRAM + KV cache），每一百万个token的实际成…
暂时没有匹配的作者文章。