Tus registros muestran que está utilizando tu codificador de hardware Intel, pero por alguna razón está funcionando muy, muy lento.
2020-01-21T23:54:52 MCEBuddy.AppWrapper.Handbrake → Encoding: task 1 of 1, 0.05 %[23:54:52] qsv_enc_init: using ‘hardware (1) via D3D11’ implementation, API: 1.11
2020-01-21T23:54:56 MCEBuddy.AppWrapper.Handbrake → Encoding: task 1 of 1, 0.10 % (10.62 fps, avg 10.62 fps, ETA 01h09m10s)
2020-01-21T23:54:56 MCEBuddy.AppWrapper.Handbrake → Encoding: task 1 of 1, 0.10 % (10.62 fps, avg 10.62 fps, ETA 01h09m10s)
2020-01-21T23:54:56 MCEBuddy.AppWrapper.Handbrake → Encoding: task 1 of 1, 0.10 % (10.62 fps, avg 10.62 fps, ETA 01h09m10s)
2020-01-21T23:54:57 MCEBuddy.AppWrapper.Handbrake → Encoding: task 1 of 1, 0.10 % (6.42 fps, avg 9.47 fps, ETA 01h17m34s)
2020-01-21T23:54:57 MCEBuddy.AppWrapper.Handbrake → Encoding: task 1 of 1, 0.10 % (6.42 fps, avg 9.47 fps, ETA 01h17m34s)
Probablemente sea tu controlador gráfico. Intenta usar una de las versiones recomendadas de la página de Preguntas frecuentes sobre hardware y mira si eso hace que tu conversión por hardware sea más rápida.
Mencionaste que probaste con una máquina diferente con un procesador i5 que era rápida; verifica la versión del controlador gráfico en esa máquina e intenta usar la misma.
Por lo general, cuando la velocidad cambia repentinamente es porque la actualización de Windows pudo haber actualizado tu controlador gráfico y el nuevo tiene errores.