Este tema es un poco lío. madVR trabaja en RGB. Lo ideal es hacer las menos conversiones posibles por eso lo ideal es que la TV soporte rango completo (0-255), la mía lo soporta lo llama "full-range" y se puede seleccionar independientemente por entrada. Así no hay problema ya que sólo hay que poner madVR en full-range, la tarjeta gráfica en full-range y la TV en full-range.
El AVR puede ser un problema, mi antiguo Denon 1611 sacaba siempre a rango limitado (16-235) aunque la entrada fuera rango completo (0-255) no había forma de que sacara rango completo. Con el X4200W el problema desapareció, la imagen salía tal cual entraba sin tocar sólo había que desactivar cualquier procesado de video. Con el OPPO tampoco tengo problema.
Si la tele o el proector no tienen una opción para seleccionar rango completo seguramente es porque no lo soportan.
Por otro lado en la TV asegúrate de que no hay ningún procesado tipo "reducción de ruido o similares".
¿Qué tal es la fluidez en la reproducción? A mí es lo que más me molesta que vaya a tirones, otras cosas puedo tragar pero que dé tirones (aunque sea muy de vez en cuando) no me gusta nada.