Primero tienes que saber si tu tv soporta ARC, sinó por ahí pierdes el tiempo.
Si no tiene, tendrás que conectarlo por analógico o toslink, si es que tiene (la tv).
En cuanto a como conectar la ps3, obviamente por hdmi es lo correcto. Por el cable óptico te quedas en 5.1 como máximo.