Ahora que estoy delante del HTPC puedo hablar con propiedad. El AC3 Filter, en la pestaña SPDIF de la configuración, le indico el formato de salida que utilizo (en mi caso 3/1), PCM 16 bit, y marco la casilla Usar SPDIF. Al lado, en el apartado "A travas de spdif" marco AC3 y DTS. Modo SPDIF/Dts en automatico. Conversidon SPDIF/dts en no convertir.

En las opciones SPDIF que hay abajo, lo tengo así:
- Detectar pista spdif en datos pcm: si
- USar codificador AC3: si
- No codificar pcm estereo: si.
- Salida spdif como pcm: NO

A mi a si me funciona a las mil maravillas. El AV Onkyo me detecta a la perfección el tipo de señal que le llega en cada momento y me la identifica sin problemas.

Por supuesto, después ya es también un tema de que le indiques a cada programa por qué dispositivo de audio debe redirigir la señal, la mayoría tiene esta opción. Yo, no obstante, lo que hago es con una combinación de teclas cambiar las salidas del audio (HDMI o SPDIF) según me convenga. Esto lo hago con el programa SoundSwitch.

Espero haberte ayudado. Saludos!