1. 选模型后参数自适应调整: - n_gpu_layers 设为模型实际层数(而非'all') - 多卡时 split_mode 设为 tensor - tensor_split 按各卡显存比例自动计算 - 增减/切换显卡时也自动更新 tensor_split 2. 模型路径为空时红色线框标记 3. 参数值非默认时用橙色线框标记(非红非绿)
1. 选模型后参数自适应调整: - n_gpu_layers 设为模型实际层数(而非'all') - 多卡时 split_mode 设为 tensor - tensor_split 按各卡显存比例自动计算 - 增减/切换显卡时也自动更新 tensor_split 2. 模型路径为空时红色线框标记 3. 参数值非默认时用橙色线框标记(非红非绿)