Si no estoy equivocado, los iPod no tiene salida de sonido digital sino analógica, amplificada por la conexión de auriculares y preamplificada por la salida de la base. Por ello no te funciona el coaxial y si el doble RCA analógico.

Saludos