30B-A3B-2507的智能明显强很多,3B激活参数用llama.cpp卸载ffn层到CPU也能在小显存的卡上跑出不错的速度,就是微调成本有点高
会有的
· Sign up or log in to comment