Te estas fijando en datos que no son tan relevantes para lo que quieres hacer, que es reproducir video plano en alta resolución.
Ni los gigas de una gráfica, ni su super-procesador, con soporte para ray-tracing, te van a compensar con este objetivo en mente.
Estás hablando de equipos que son buenos para el procesamiento de juegos o autocad (generación de gráficos 3D), pero tu lo que necesitas es reproducir/decodificar video plano.
Una RPi3, con refrigeración pasiva, con un procesador de "juguete" y menos RAM que un smartphone de gama baja, puede mover prácticamente cualquier cosa en 1080p (sin HDR)... y vale 35$.
Te compensa mucho más un reproductor dedicado a esto (imagen plana), que una super-gráfica moderna (orientadas a la generación de objetos 3D en tiempo real).
Resumiendo, que no, que la relación coste/mejora de una gráfica moderna, no compensa, en ningún caso, a la de un reproductor dedicado.
La verdad es que hace tiempo que los HTPC están fuera de juego en el campo de la reproducción multimedia. Su consumo, su tamaño, su mantenimiento... no son comparables a las de un buen reproductor dedicado.
Habiendo un Fire TV Stick 4K por menos de 60€, que se lo come todo y es simplemente enchufar y jugar (sin ventiladores, sin drivers, sin actualizaciones de Windows, sin ruidos, sin consumir 350W,...) ¿quien se va a comprar una gráfica RTX, en un HTPC que la soporte, para ver pelis? .... no tiene ningún sentido.