Tienes que seleccionar bitstream en la Samsung. No creo que en PCM te salga más de 2.0 (estéreo). De todas formas, ¿no será que el Denon te esté aplicando el upmixer de DTS (DTS Neural X)? Es imposible que de un contenido DD te saque DTS a secas.
Edito: además el que tuvieras puesto un upmixer en el Denon sería la causa por la que no te sale Dolby Atmos. El modo que nos usa upmixers ni DSPs en Yamaha es Straight que es el que saca el contenido original en formato y número de canales. En Denon no sé cómo se llama.