Por orden de calidad según mis pruebas:

AT&T optical > AES/EBU > Toslink optical > Coaxial.

En las ópticas se mejora el rendimiento si invertimos el dinero en un cable de fibra de vidrio, tiene superiores prestaciones.

PD: en algunos aparatos de alta gama es posible incluso encontrarse una de tipo BNC, pero no es frecuente.