utilizar componentes como rca de auidio para 5.1

Parece obvio que la prueba no conlleva peligro alguno, por lo que no seré yo el que te diga que no lo pruebes.
Como bien has puesto en el título, te quedarías en 5.1, pero veo que te da igual.
Da la impresión de que en aparatos de esa categoría, usar esa conexión y desperdiciar el hdmi sea un error, pero tus oídos te dirán si te han aconsejado lo correcto...

Al estar utilizando el denon bd3800 como blu-ray y como lector de cd,s , si, paso el audio de las peliculas por hdmi, ¿quien procesa la señal, el ampli o el blu ray? y si lo paso por analogico al ampli ¿quien lo procesa? ,¿Por analogico decodifica sonido HD ? ¿cual procesa mejor el sonido? Me interesa saber antes de liarla con los cables, porque la que preparo es chica!!!!!
yo en estereo no he notado diferencia de hdmi (straight pcm) a analogico (straight analogico)

me hechais un cable? por favor

Me atrevo a decir que por hdmi el curro se lo lleva el ampli. Esta es la única salida por la que pueden sonar los nuevos formatos Dolby True HD y DTS HD.
En el caso de conectarlo por hdmi directamente a la tv, se queda en estéreo. No sabría decirte seguro si se puede oir el DTS de esta manera, pero creo que no.
Si te refieres a la salida digital RCA o la salida Toslink de fibra óptica, también lo procesa el ampli (máximo 5.1), pero si te refieres a la salida analógica L y R, las procesa el bluray, y por supuesto, no puede sonar DTS por ahí.