A ver. Para empezar. Seteando el reproductor con una subsampling de 4:4:4 estás ocupando ancho de banda inutilmente. Todos los vídeo son 4:2:0. Full HD o UHD.
Luego, para norma HDR10 se necesita un rerpoductor y visionador capaz de trabajar con 10 bits de profundidad. No es que con 8bits no funcionará, pero perderás detalle en los colores.

Para probar, pon el reproductor cerca del proyector con un cable cortito. Ahí te sacarás la duda. Si tienes que llevar el audio al ampli, usa el mismo cable de 20m que tienes ahora para hacerlo pinchando en el HDMI ARC si lo lleva o con un extractor de audio que deje pasar 4K60fps.