Integrar un sub es muy difícil si no tenemos cierta libertad para ubicarlo y si no podemos ecualizarlo. Debido a la interacción con la sala seguramente tendrás una respuesta de frecuencia que seguramente esté lejos de la ideal, con algún pico y algún valle pronunciado (o varios). Si le bajas el volúmen, los picos bajan, pero también el resto de frecuencias con lo que parecerá que te faltan graves. Si le subes el volúmen, esos picos pueden ocasionar ese "retumbe" desagradable. Ya que tu AVR no ecualiza el sub, intentaría buscar alguna otra ubicación para ver si mejora, y también probaría cambiando la fase. Mucho más no puedes hacer.