Lo dicho: si la lee la PS3 es que es un divx. Dentro de los divx los hay de mejor y peor calidad, para que te hagas una idea, si el fichero ocupa 800 o menos megas, es que la calidad es media/baja. Si la salida de la ps3 la tienes a 1080i (no se porque cuando todos los juegos estan a 720p) y los divx estan a 576p, lo mismo que la TDT...es normal que tengas pixelaciones. Los archivos de calidad suelen tener formato mkv (realmente no es un formato, es un contenedor) y la PS3 no puede leerlos (no por capacidad sino por que Sony no quiere).
LO dicho, o subes la calidad de las fuentes o bajas a una pantalla de menos pixeles. Y de paso, pon la PS3 en Automatico (o como mucho en 720p).