La frecuencia de corte que establecemos en el AVR sirve para establecer el límite de las frecuencias de sonido que saldrán por los altavoces o por el subwoofer. Si por ejemplo le indicas al AVR que corte en 80Hz las frecuencias inferiores a ese valor las reproducirá el subwoofer, que realmente es quien puede bajar a esos niveles, salvo que tengas unas cajas muy buenas.
Yo pondría el bass y el treble a 0 antes de hacer nada. Y en cuanto a los DSP prueba a poner sonido estéreo sin más.
Antes de meterte en la compra de altavoces deberías de hacer que lo que tienes suene lo mejor posible. No tiene que sonar para nada como dices que suena de mal; a no ser claro está que el sistema no esté bien configurado o que tenga algún problema.
Saludos!