Cuando seleccionas la entrada HDMI correspondiente en el AVR, te aseguras de que el DSP asignado a esa entrada sea el modo "Straight"? No será que tienes activado el modo Estéreo 7.1?
Por otra parte, asegurate también de que la XboX tiene activados DD y DTS en su salida HDMI y que saca el sonido en flujo de bits (bitstream)