Qué bluray es? Has mirado si tiene limitaciones al reproducir archivos?
Cómo conectas el htpc? Va por hdmi al Denon, o va por óptico? Para que funcione una pista HD el sonido tiene que ir por hdmi 1.3 mínimo.
Si el receptor se pone en modo PCM, es por que lo recibe así. En PCM se supone que las pistas ya le vienen separadas y "masticadas" desde el reproductor que sea. El receptor, según sus ajustes, no hará nada más que reproducirlas tal cual, indiferentemente de si originalmente era una pista stereo o DTS HD MA.