Es judder es un desfase entre las tasas de refresco del video (película, serie...) y la de reproducción de la tarjeta gráfica. El resultado es que se pierden un frame cada x tiempo, y el resultado, lo que tu ves, es que en escenas de travelling (donde se mueve la camara de un lado a otro) da unos pequeños saltitos.

El judder es molesto, pero solo se aprecia en algunas escenas, con lo cual podrás vivir con él (si no te obsesionas, claro, porque si lo haces, estarás todo el rato acojonado pensando en que va a aparecer xD).

Como dices, BD3D es bluray3D, no podrás verlo, aunque si podrás ver 3D de videos SBS (Side by Side) que te descargues, o sea, el típico MKV que lo abres y salen dos imágenes, una a izquierda y otra a derecha.

Lo de la caja es que vayas viendo cuales se adaptan a tu presupuesto y ver en conjunto la estética, refrigeración, etc. Para lo que ya tienes, necesitas una caja que acepte fuentes ATX y placas microATX o ATX.

Saludos