Pues ni idea como hacer eso que dices, ya que yo no uso el twonky. Mi nas es un Synology y soy incapaz de encontrar esa opción que describes. hay una opción de indexado que no cambia nada.
Seguro que hay una forma para decirle que no transcodifique nada. Échale un ojo a google.
https://forums.plex.tv/discussion/17...scoder-totally