La verdad es que me pierdo con los nuevos formatos de sonido digital, mi receptor tiene unos años y solo maneja el dolby digital 5.1, el DTS 5.1 y sin entradas HDMI, y uso la salida optica de la placa base.
Me imagino que lo ideal es que sea el Denon el que procese el sonido, evitando en lo posible el sonido de la placa interfiera en ningun momento y la salida de sonido la configures en el reproductor tipo Powerdvd 8(soporta los nuevos formatos de audio), mirando a ver que posibilidades te da (me imagino que esto dependera de lo que tenga cada uno en el ordenador), en este punto creo que tambien tienes que configurar(activar) el los drivers de audio la salida a usar para que coincida con la eleccion en el Powerdvd 8 o similar.
De todas formas creo que en caso de usar el sonido de la placa base y lo configures para procesar el sonido de estos formatos de audio en HD, esta sacara el sonido por las salidas analogicas correspondientes de la placa base , que es otra posibilidad si tienes las correspondientes entradas en el receptor Denon, aunque esta opcion no me convence, tambien en este caso tendras la opcion de la salida optica o coaxial ( pero esta no es lo que necesitas)
No sabria decirte mas, lo unico que al conector de audio digital a la grafica en alguna review de estas graficas la llaman "S/PDIF cable" quiza te sugiera algo mas que a mi de las posibilidades que tiene.
Saludos..