Yo tengo una configuración muy similar a la tuya, saliendo por HDMI con tarjeta Nvidia. Si el AVR está recibiendo PCM no se me ocurre qué puede estar fallando. Haz la prueba que te comenta Taboadax con el MPC-HC, configurándolo así te aseguras de que estás enviando PCM al AVR (aunque de todos modos parece que ya lo estás haciendo, por lo que dices).

Luego a la tarde te cuelgo unos pantallazos de cada pestaña de las propiedades de la tarjeta de sonido, a ver si encuentras alguna diferencia con lo que tienes tú.

¿Qué gráfica tienes? Puede ser cosa de los drivers. Prueba a actualizarlos, a mí me saltó estos días un aviso de que hay nueva versión de los drivers de NVidia.

De todos modos también te digo que a mí me pasa lo mismo que a ti con ViPER4Windows, haga lo que haga no hay manera de que funcione. Y lo curioso es que también es un APO, igual que APO-EQ, y sin embargo este último me funciona perfectamente. Misterios ...

Saludos.