En primer lugar debes cercionarte de que tu ordenador tenga una tarjeta de sonido compatible con 5.1 (no todas lo son) y en el caso de que lo sea, debes configurarla como tal. No se trata de configurar windows ni el reproductor correspondiente (que también) si no que debes configurar la tarjeta de sonido.

En el panel de contro debes tener un apartado específico para tu tarjeta de sonido, con el nombre de la misma (por ejemplo, uno de los más comunes es sigmatel) y cliqueando en ese icono abres el panel de configuración de la misma. Suelen tener una utilidad que te ayuda a configurarlo, y a conectar los cables, avisandote de donde va cada uno, y además una opción para que compruebes el sonido (emite por cada uno de los altavoces).

No debes olvidar que solo sonará por los 5 altavoces lo que esté codificado para ello. Al igual que cuando se emitía en mono en un reproductor estereo solo se escuchaba por uno de los altavoces, si reproduces en estereo en un conjunto 5.1 solo se escucharán 2 altavoces (a menos que uses un conversor virtual, opción que tienen algunos reproductores y utilidades de algunas tarjetas de sonido).

Espero haberte ayudado.