昇腾 NPU上运行问题

[zjllll6688]

这里有个问题就是目前是能跑起来的，但是无论复用比低还是高（设置了很多宽松度值），纯生成时间都基本没啥太大的变化（或者减少的时间不多）。我在vllm端测了一下他得到的确实是需要继续生成后缀的一部分batch，但是就是没效果。然后我把宽松度设为极大值，等于说是所有response全都复用，这个时候它不用启动vllm继续生成后缀，纯生成开销消耗的时间才将近为0。也就是说除非所有batch 100%复用才没有生成消耗，就算是99%复用只有1%需要生成，所消耗的生成时间也和完全没有复用的一样。

[bingshuailiu]

抱歉，我此前对于昇腾NPU环境下的rl rollout没有尝试过，我主要的实验环境是H卡，也许可以尝试一下异步rollout（我认为可能是某些VLLM在sync模式生成下，在NPU上的长尾问题）？我最近支持了在异步下的Agentic RL（还没发布），加速效果也比较不错。实在抱歉，我暂时没有机会使用NPU，所以有些分析也只是推测，不一定正确。

[bingshuailiu]

你可以放一下你的环境配置吗？有机会的话我去复现一下此类场景。