Los tienes en paralelo entonces.
Lo que has comprado es un "ladrón" óptico, como los enchufes. Lo que conectes en un lado se supone que se repite hacia los demás. En caso de tener todo encendido, se mezclarían las señales de la ps3 y el HD.
No creo que sea unidireccional, pero prueba a conectarlo al revés de como lo tienes: la ps3 al conector que está sólo y el AVR a uno de los 2 del otro extremo. También prueba ambos cables directamente desde la ps3 por si uno de ellos no funcionase bien.