Supongo que estás hablando de Plex. Si es así, creo que necestas un NAS más potente. Yo te hablaba de NAS y reproductor puro. Es decir, que el NAS comparta los ficheros por NFS, DLNA o Samba, y que el reproductor los reproduzca sin alteraciones.
Si el NAS tiene que hacer de Plex Server y transcodificar ya debe ser mucho más potente. Yo nunca he usado Plex, con lo que ahí no te puedo ayudar.
Debes tener en cuenta, que sin transcodificar, tu televisor debe ser compatible con la resolución y formato originales del fichero.
Teniendo en cuenta esto, tienes por ejemplo el DS119j de Synology. Está por unos 120€, pero con esto no podrás instalar un plex y transcodificar. No lo he usado nunca, pero no creo que de problemas con archivos grandes. Tal vez alguien que lo tenga te puede contar más.
En cuanto al reproductor, pásate por el foro de discos y reproductores multimedia.
Saludos