Buenas, si quieres emular el Atmos con un denon desde un 5.1 tienes dos opciones:

- Con el modo DTS Neural X (copio/pego del manual)
Este modo usa DTS Neural:X Upmixer para ampliar varias fuentes de reproducción a multicanales naturales y realistas.
Use los altavoces de altura, como, por ejemplo, los altavoces de altura frontales, para lograr un campo de sonido tridimensional.

- Con el modo DTS Virtual X
Este modo utiliza DTS Virtual:X con procesamiento de surround virtual y de altura virtual para lograr un campo de sonido tridimensional cuando no se utilizan los altavoces de altura.

Vamos, desde mi punto de vista, en realidad solo hay un modo para "elevar" un audio a atmos, que es utilizando el DTS Neural X. Para ello tienes que tener los altavoces de altura conectados si no, no tendrás la opción.
La opción DTS Virtual X para emularlo sin altavoces de altura no sé qué resultado dará, pero sin estos altavoces lo veo complicado.