你的配置相當特別，同時擁有 CUDA（NVIDIA）與 QuickSync（Intel）兩種硬體加速。然而，你的 Intel 驅動程式似乎有問題，導致 HandBrake 在嘗試使用硬體加速時卡住。
2018-02-06T07:51:46 MCEBuddy.AppWrapper.Handbrake → [07:51:46] qsv_enc_init: using ‘hardware (2)’ implementation, API: 1.25
2018-02-06T07:51:47 MCEBuddy.AppWrapper.Handbrake → Error code -17, hb_qsv_wait_on_sync 602
2018-02-06T07:51:47 MCEBuddy.AppWrapper.Handbrake → ERROR: encqsv: MFXVideoENCODE_EncodeFrameAsync failed (-17)
因此 MCEBuddy 退回使用 HandBrake 的軟體編碼，而沒有先嘗試透過 ffmpeg 使用 NVIDIA 硬體加速（未來我們會加入這項最佳化，在切換到軟體編碼前嘗試其他硬體編碼器，主要是因為同時擁有兩家硬體廠商的系統相當罕見）。
解決方法正如 @Will_Tschumy 所說，只要在設定檔中把順序改成 ffmpeg，就能優先使用 NVIDIA 顯示卡進行硬體編碼；若驅動程式沒問題，速度會明顯提升。
附帶一提，你的 Intel 顯示卡可能尚未正確初始化，而 NVIDIA 顯示卡才是主要輸出介面，這可能是 HandBrake 無法初始化 Intel 的原因。如果你想改用 Intel 硬體編碼，可嘗試「假顯示器」技巧來啟用 Intel 顯示卡。