diff --git a/libavcodec/nvenc.c b/libavcodec/nvenc.c
index e8b29fabee..b4a0a5bf0a 100644
--- a/libavcodec/nvenc.c
+++ b/libavcodec/nvenc.c
@@ -908,7 +908,7 @@ static av_cold void nvenc_setup_rate_control(AVCodecContext *avctx)
             ctx->rc = NV_ENC_PARAMS_RC_CBR;
         } else if (ctx->cqp >= 0) {
             ctx->rc = NV_ENC_PARAMS_RC_CONSTQP;
-        } else {
+        } else if (ctx->quality >= 0.0f) {
             ctx->rc = NV_ENC_PARAMS_RC_VBR;
         }
     }