No estoy seguro de si la codificación por hardware está funcionando o no

Depende de las opciones y filtros que esté utilizando el perfil que estás usando. No todos los adaptadores soportan todas las opciones. Por ejemplo, si el perfil está usando un filtro de reducción de ruido para limpiar artefactos y tu hardware no lo soporta, entonces usará la CPU para esa parte. Si quieres usar solo la GPU, tendrás que crear un perfil personalizado específico para las capacidades de tu GPU y eliminar todas las demás opciones.

MCEBuddy usa aceleración por hardware para ayudar y acelerar la codificación sin comprometer la calidad (en la medida de lo posible: la codificación por CPU siempre tendrá mayor calidad que la codificación por GPU para la misma tasa de bits).