Por partes:

Placa base has elegido una de las opciones mas consecuentes hoy en día, aunque si te esperas unas semanas podras hacerte con su sucesora, la N3700-ITX. De potencia van a ser muy similares, pero los nuevos Braswell tienen menor consumo, lo que para un NAS es una excelente opción.

ASRock > N3700-ITX

Memoria RAM veo buena tu elección, con 4GB de DDR3L (bajo voltaje) vas bien servido a la hora de montar un NAS.

La caja si quieres mucho almacenamiento no te queda mas remedio que buscar una ATX como la R4 que comentas. Es una caja excelente y su precio me parece del todo correcto.

De todas maneras yo para un NAS miraria mejor algo mucho mas pequeño, la opción ideal hoy en día es la Fractal Node 304, le caben 6 discos, es de reducidas dimensiones y esta muy bien ventilada. Si aún así te quedas corto puedes mirar complementarlo con un DAS como el Orico 9558U3 (5 discos duros extra, pasarías a tener 11).

Fractal Design

Orico 9558U3 5bay 3.5'' Sata HDD External Enclosure Aluminum Usb3.0

Fuente la que has elegido esta muy bien, eficiente y silenciosa.

SSD si vas a usar Windows busca mejor uno de 128GB, pero si vas a usar Xpenology (la opción mas lógica hoy en día a la hora de montar un NAS) no hace falta siquiera porque el sistema arranca desde un pendrive.

Discos duros la opción mas razonable son los que pones, la serie RED de Western Digital. Ya si quieres algo mejor en rendimiento y fiabilidad a cambio de sacrificar sonoridad puedes mirar HGST.

La controladora que pones esta muy bien si vas a optar por la Q1900 o por la N3700, básicamente porque esas placas estan limitadas a PCIE 1X. Pero si te decides por alguna placa mas potente (no lo veo necesario para un NAS) puedes buscar alguna HighPoint PCIE 4X con canal doble. Diferencia de rendimiento existe, pero lo dicho, para un NAS no merece la pena el sobrecoste.

Antes que un rack buscaría un dock externo. Aunque si optas por un DAS como el comentado antes te ahorras tener que comprarlo.

Sistema operativo ya te lo he comentado, Xpenology y a disfrutar.