Pues no me cuadra...
Deberías de poder reproducir todo decentemente, incluso con más velocidad de transferencia en tu PLEX Server. Yo tengo 1080 en calidad de visualización en el PLEX-Server y mi servidor es muy inferior al tuyo.
Es cierto que no tengo PLC y todo lo tengo por cable directo al router, pero aún así te debería de ir. Puede que tengas a lo mejor algún problema con otro programa que este interfiriendo en el ancho de banda, o alguna cosa similar, no sé el firewall de windows suele dar mucho por culo, o el antivirus, pon PLEX entre las excepciones.
Es raro, te debería ir como un tiro, vamos debería de ir super-fluido.