Las conexiones parece que están bien (no te hacen falta ni más altavoces ni cable óptico), así que será cuestión de configuración. En principio parece culpa del BD que está mandando la señal en estéreo. Cómo has configurado la salida del BD? En cuanto al AVR, yo también tengo un Denon y no se me ocurre ahora ningún parámetro que pueda estar forzando que se usen esos modos.

Saludos.