En un principio, para reproducir 4K/HDR (madVR sólo passthrough) sería hasta suficiente una integrada de un Intel, cuanto más la integrada de una APU Ryzen de AMD. En cualquier caso, si te sientes más cómodo con una GTX, pues no hay problema, claro.

Solo te aviso que madVR no tiene límites, yo tengo una GTX1080 y con los filtros de render NGU se pone al 50%/60%, para escalado 1080p -> 2160p. Por lo que con una GTX1050ti/GTX1060 seguro tendrás que hacer pruebas y ver hasta donde puedes llegar ... pero claro, si pones la gráfica al 90%, lo mismo ya escuchas los ventiladores. Yo la mía la escucho un poco cuando se pone por encima de los 100W.

Ahora tengo todos los filtros de render en 'Off' (básico DXVA) y lo veo genial, y la gráfica a 11W (ociosa). Por eso digo que una integrada es suficiente, pero para madvr con filtros render puedes no tener fin ... :-)

Respecto a la placa, pues como veo que Intel te atrae, yo te recomendaría cualquiera con H370, aunque si quieres que la placa tenga muchos extras lo mismo tienes que irte a algún modelo con Z370. Marcas la que más te guste a nivel de BIOS, yo siempre tengo ASUS, aunque en el HTPC me tiré a por una Gigabyte y también ok. Las Asrock también las ponen bien a nivel de control de ventiladores, aunque yo no las he probado, el de las ASUS y Gigabyte me es suficiente.

Yo cambiaría también los ventiladores de la caja, pondría algunos PWM de Noctua o Noiseblocker, de no más de 1500rpm de velocidad máxima, para que los ajustes a unas 900rpm/1000rpm.

Y el tamaño de la placa, aunque la caja soporta ATX, a menos que tengas muchas cosas que conectar, yo me iría a mATX. La mITX ya es un compromiso de tamaño y te quedas sin slots libres y, seguro, pocos slots M2, etc ... mATX es un punto intermedio.

Saludos.