Bueno, yo no estoy muy seguro de mis conocimientos al respecto, pero te los expongo para ver si te ayudan un poco:

Los nuevos formatos están en los blu-ray y hd-dvd, pero me da a mi que por satelite va a ser que no. Incluso desconozco que se envíe información en 5.1 de alguna manera, que puede ser, no digo que no.

Creo que estos formatos pueden salir descodificados o no del reproductor, pero siempre tiene que ser vía HDMI si es en formato digital. Por lo tanto tu AV tiene que ser capaz de captar el sonido del HDMI (en Yamaha a partir del modelo 463 creo) si viene descodificado, y sino además tendrá que descodificarlo (modelos bastante superiores).

Lo mejor sería sacarlo en analógico, es decir, por las seis salidas RCA que sacan 5.1, así cualquier AVR con entrada analógica 5.1 podrá amplificarlo, aunque tenga 10 años. Ten en cuenta que la Play 3 no tiene estas salidas, por lo tanto solo puede sacarlos por HDMI (descodificado al menos creo que se puede).

Espero haberte ayudado en algo, y si estoy equivocado en algo que alguien me corrija y así aprendo yo también.

Un saludo.