Supongo que tendras que mirar los ajustes de la salida de audio de tu tarjeta de sonido del PC, a ver si en la salida de linea tienes el volumen mas bajo.

Yo tengo conectado tambien un sistema externo de audio, pero lo hago de otra forma. En vez de sacar el sonido del PC (en mi caso un mac mini) a los monitores activos directamente, saco el audio del mac por el HDMI a la TV y es la TV la que saca el sonido (en mi caso por jack 3.5mm, pero en tu caso lo sacarias por el SPDIF) a una mesa de mezclas (en tu caso seria al avr) y esta a los monitores activos por RCA.

No se si me entiendes, de esa forma tendrias el sonido del PC en tu sistema externo, usarias la TV como monitor, y solo usarias un cable SPDIF, no dos como ahora, con la ventaja de que en el AVR no tendrias que cambiar de fuente, siempre tendrias el sonido, o bien del PC, o bien de la TV.