Creo que por Plex no se soportan los archivos AudioHD. Si tu mutimedia no lo soporta, solo te saldra siempre DD o DTS de toda la vida.
Por ejemplo un HiMedia Q10pro, los soporta por todas sus entradas y salidas. S2