Yo no uso el windows classic player, pero en general para sacar sonido 5.1 del windows a un AVR lo mejor es hacer passthrough (paso directo, o como lo llame cada programa) del audio.

En las opciones de audio, del software que uses para reproducir tanto video como audio, debes elegir la opción passthrough, es decir que pase el audio directamente al AVR sin ser procesado por el software de reproducción.