Hola compañero,
Te puedo decir que jamás he montado una PI como HTPC precisamente por lo que comentas.
Veo a la RPI como más un cacharrito con el que cacharrear (que oye, es muy respetable) que como una plataforma sobre la que montar un HTPC que funcione correctamente y sin problemas. Tengo entendido que se puede llegar a tener un resultado aceptable (pero no óptimo/perfecto) si se overclockea y se tiene mucho cuidado con el software para que sea todo lo más ligero posible.
Mi consejo es que te hagas con una placa base con APU integrada, pero arquitectura x86. Tienes alternativas muy buenas con el Intel J1900, y si me apuras en precio, te puedo decir que también he montado equipos con el J1800 de doble núcleo y el resultado como reproductor es muy muy bueno (el J1800 se viene abajo con XBMC y skins como el Aeon Shednox, pero con un skin más ligero como el Amber va muy bien).
Saludos