Sería bueno saber que gráfica monta, asegúrate que tienes los últimos driver instalados.
Puedes probar a usar CoreAVC como decoder de vídeo.
También puedes probar openelec (distro ligera con XBMC) si es compatible con tu hardware.