Vamos por partes xD.

Depende de si tenéis la PS3 FAT o la Slim, la FAT lo envía por PCM si o si, ya que no tiene la característica de que decodifique los formatos el AVR, es decir, hace el trabajo este la PS3 y se lo manda "ya hecho" al AVR.

Sobre lo de Bitstream o PCM Lineal está aquí: PS3™ | Ajustes de vídeo

Y lo de que aparece distintos tipos de codificación del sonido en el AVR como Dolby, DTS y demás variantes dependiendo del AVR tiene un botón de opción de configuración de formato, en el caso del Pioneer tiene un botón de AUTO/Direct que pulsando este seleccionas los tipos de decodificación.

En el Onkyo será muy parecido.