A ver, con XBMC, y teniendo en cuenta que tu tarjeta gráfica es AMD, tienes que tener en cuenta lo siguiente:

En configuración de sistema, en harware de audio, marca que tu receptor es compatible con los formatos que sea (como bien dice Tassadar, asegúrate de que sea compatible con los audios HD), que sa salida es HDMI y eso de que se te engancha es porque tienes que seleccionar, en salida de audio passthrougth, la salida HDMI pero en WASAPI, no en DirectSound. Una vez hagas esto ya te debería funcionar correctamente

Saludos!