No se puede instalar la versión 2.5.4 tras desinstalar la beta anterior

Desinstalé la versión 2.5.4 beta (la última antes del lanzamiento de 2.5.4) y parece que no se desinstaló realmente. Dejó los accesos directos de lanzamiento en el escritorio y el desinstalador marcó un montón de archivos y carpetas para su eliminación, sin nada anormal allí.

Eliminé manualmente los accesos directos y detuve el servicio de MCEBuddy.

Ahora, cuando intento instalar, el instalador me dice que MCEBuddy aún está instalado y se cierra. Sin embargo, MCEBuddy ha desaparecido del listado de aplicaciones tanto en el panel de control como en mi desinstalador.

¿Qué puedo buscar para descubrir qué está bloqueando la instalación?

Consulte el índice de preguntas frecuentes de instalación/desinstalación según el error

Finalmente eliminé suficientes entradas del registro y archivos para que se completara la instalación.
Consejo importante: hice copias de seguridad de mis perfiles y configuraciones en otra carpeta para asegurarme de poder restaurar todo como estaba antes. Particularmente los perfiles y reglas de grabación.