El formato de salida de audio se configura en la PS4, en el menu herramientas o configuración, ahí en el menu de sonido, puedes elegir entre auto/bitstream/pcm (hablo de memoria). El caso es que en alguno de estos modos te sacará DTS por defecto, mientras que si lo cambias a otro modo puedes elegir distintas opciones desde el denon.

En cuanto a lo que no es compatible con HDR, es raro ya que el ese receptor es HDCP 2.2, podría ser un problema con el cable que no sea compatible o que tengas algo entre la ps4 y el receptor que tampoco lo sea, como por un un splitter hdmi antiguo que no cumpla con el 2.2 y por lo tanto no saca el HDR. Si todo está bien pues sería un problema del receptor. En el menu de imagen de la PS4 también tienes opciones de configuración de imagen para el HDR.

saludos