Ihr GPU ist überfordert und hat Probleme beim Verarbeiten des Videos. Versuchen Sie, die Hardware-Beschleunigung in den Konvertierungsaufgaben → Experteneinstellungen zu deaktivieren
Prefer Hardware Encoding → True
Use GPU Brands → NVidia
Wenn dies das Problem löst, was sehr wahrscheinlich ist, dann ist Ihr Grafiktreiber das Problem. Falls dieser kürzlich aktualisiert wurde (was auch automatisch über Windows-Updates geschieht), versuchen Sie, auf eine ältere, stabilere Version zurückzugreifen.