Revisa la configuración de la PS3, que supongo tendrás conectada por HDMI al AVR.

En particular, en la configuración de video, en la salida HDMI, esta ha de estar en bitstream; y en la configuración de audio has de seleccionar esos formatos HD.