目前有什么可以本地部署的大模型推荐?

2025-06-22 05:40:10

这里推荐一个本地微调大模型的框架。

ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。

更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。

Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。

上一篇：发达国家放弃全电动车，我国电车一降再降，高举发展新能源汽车大旗，电车会变成中国车企自嗨吗？

下一篇：伊朗若拥有巴基斯坦的中国防控体系，能否把美国的B2轰炸机打下来？如果打下会对世界局势产生什么影响？

【返回列表】