For now, you can use the vLLM main branch and build it from the source code, or you can directly install vLLM from the pre-built ROCm wheels for vLLM version later than 0.11.0 when it's available.
Некоторые результаты скрыты, так как они могут быть недоступны для вас.
Показать недоступные результаты