En esa caja no deberías tener problema por la altura del disipa de una placa así.
En cuanto a RAM, para un HTPC, tienes bastante con 4GB, pero por si te entra el gusanillo de ampliar, pon solo 1x4GB y así puedes ampliar a 8GB el día de mañana sin problemas.

La beQuiet es muy buena elección, sobrada y silenciosa.

Antes de comprarle mas ventiladores al conjunto, pruebalo tal cual y mide temperaturas a ver como se porta. Cuanto menos ventiladores uses menor consumo de energía y sobre todo menor nivel de ruido (esto, si lo vas a tener en el salón, es muy importante). Si te ves obligado a ponerlos porque el sistema se calienta, busca siempre los de mayor tamaño, moviendo la misma o mas cantidad de aire, hacen muchísimo menos ruido (los noctua son magníficos pero muy caros, los tacens blancos son muy buenos y mucho mas baratos).