El DAC destinado a los canales frontales del Yamaha es un Burr Brown (concretamente el modelo 1791) que puede encontarse en reproductores de 300 euros pero también en modelos mucho más caros.

No creo que obtengas ninguna ventaja con un reproductor de gama básica dedicado, y muy posiblemente - a nivel electrónico -sea de inferior calidad que el binomio Pionner DVD como transporte + Yamaha como DAC. Otro tema sería el tema mecánico, alimentación, etc. pero a nivel de DAC´s creo que no ibas a obtener ninguna ventaja.

Respecto a la mejor señal proveniente del HDMI respecto a la salida coaxial-analógica (¿?) (supongo que te refieres a la salida coaxial DIGITAL) la única explicación lógica que veo a priori es que estés utilizando un cable RCA de una calidad muy baja o que no sea de 75 OHm, por que en principio debería ser exactamente lo mismo.

A nivel interno del Yamaha cable la posibilidad que esté mejor implementada la circuitería desde la entrada HDMI que las SPDIF, pero eso es hilar ya muy fino.

En cualquier caso el 3800 tiene ya la suficiente "enidad" para que en caso de acompañarlo de un lector. éste sea de calidad "suficiente" y no un modelo básico.