Sí, vas por buen camino, tu codificación por hardware no está iniciando.
ERROR> 2018-10-07T15:11:11 → StartAppWithAdminPrivilegesFromNonUISession WTSQueryUserToken falló (No hay usuarios conectados) con error 1008. Se intentó hacer referencia a un token que no existe.
ADVERTENCIA> 2018-10-07T15:11:11 MCEBuddy.AppWrapper.Handbrake → No se puede crear un proceso de sesión de IU con privilegios de administrador desde una sesión sin IU. ¿Hay algún usuario conectado?
ADVERTENCIA> 2018-10-07T15:11:11 MCEBuddy.AppWrapper.Handbrake → Reintentando la creación del proceso como un proceso de sesión sin IU con privilegios de administrador
ADVERTENCIA> 2018-10-07T15:11:11 MCEBuddy.AppWrapper.Handbrake → Algunas funciones como la codificación por hardware pueden no funcionar en este modo
Estás usando una máquina con Windows 7 si no me equivoco y requiere que haya un usuario conectado en todo momento para usar la codificación por hardware. Podría deberse a que has bloqueado la sesión, pero normalmente debería funcionar mientras haya un usuario conectado (en el terminal o de forma remota).
También podría estar relacionado con un parche de servicio reciente en Windows 7 que rompió la codificación por hardware para otro usuario. Puedes intentar desinstalar el parche y ver si eso soluciona tu problema o intentar iniciar el motor de MCEBuddy desde el menú Inicio como un motor de línea de comandos (lo cual nuevamente requiere que estés conectado).