
从 Mac 到单卡 GPU:Qwen2.5-VL 部署、GRPO 与计数 LoRA 实践
在 M2 Pro 和云端单卡上部署 Qwen2.5-VL-3B,实测连续批处理、前缀缓存与 SGLang 参数调优,再用 verl 完成多模态 GRPO 更新和同条件前后评测,记录有效优化、兼容性问题与未观察到提升的结果。
FOLLOW THIS THREAD
Notes on this topic
1 篇公开笔记,沿着这个标签慢慢读。

在 M2 Pro 和云端单卡上部署 Qwen2.5-VL-3B,实测连续批处理、前缀缓存与 SGLang 参数调优,再用 verl 完成多模态 GRPO 更新和同条件前后评测,记录有效优化、兼容性问题与未观察到提升的结果。