El z5500 no tiene hdmi, por lo que nunca va a poder decodificar Dolby TrueHD o DTS-HD
Lo que quiere decir, es que NO lo márques para que lo mande en bitstream, porque ni tiene ancho de banda suficiente el spdif, ni el deco va a entender lo que le llega (de ahí los chasquidos)
La solución, que envíen solo el core (ac3/dts) por spdif, bien mediante configuración del mplayer o remuxeando de nuevo y dejando solo el core.
Edit: El Haali Media Splitter, te debería dejar configurar para enviar al deco, solo el core de los audios hd
http://haali.su/mkv/