Una conexión analógica, como los RCA del DVD al AVR que has puesto, no puede llevar el formato DTS, pues es digital. Por ello el AVR no enciende el logo.
El cable digital es indistinto, como te decía, a efectos de calidad del sonido. El coaxial parece que es menos delicado en sus conexiones.
Para pasar el audio de tu televisión al Yamaha lo has de hacer por las salidas analógicas estéreo que supongo tendrá, mediante cables RCA-RCA. El HDMI funciona en una sola dirección, de los lectores al AVR y de este al TV.