6.1. 已支持的视觉大模型列表

表 6.1.3 已支持的视觉大语言模型(注：.表示尚未测试)

模型

FP16

BF16

W4A16 GPTQ

W8A16 GPTQ

DeepSeek-VL2

.

Y

.

.

Qwen2.5-VL-3B

.

Y

.

.