Yo también tengo DAC (convertidor digital analógico) en los dos TV que tengo e intentando probar lo que dices me he quedado de piedra porque no me funcionaba y me ha costado un montón averiguar que pasaba, es decir porque no funcionaba el sonido en el amplificador externo pasando por el DAC, al final la culpa era mía porque cambié del menú de sonido el formato de audio de salida a DolbyDigital cuando ha de ser PCM. Yo ya pensaba que se había estropeado el DAC que es nuevo de hace mes y medio.
Bueno a lo tuyo
1-El sonido lo pasabas antes seguramente con 2 RCA el 3º era de vídeo
2-Que no funciona al conectarse con Youtube, pues es incomprensible, ¿estas seguro?
3-Al conectar los auriculares al DAC es normal que no corte el sonido, el DAC solo es un converdior de Digital/Analógico y no tiene ninguna conexión de entrada y menos capacitada para comunicárselo al TV

Si quieres cortar el sonido del TV y disponer de control de volumen han de ser auriculares Bluetooth y elige unos que no tengan retraso