Adjunta tu archivo mcebuddy.log y puedo decirte qué has configurado. Básicamente, MCEBuddy monitoreará lo que le pediste que monitoree y luego lo convertirá a lo que le pediste que convirtiera. Si pediste la salida como MP4, creará MP4 y no archivos MKV. No creará nada que no le hayas pedido.
Si está listando los archivos MKV al escanear, probablemente eso es lo que le pediste que monitoree.