Pues no, si lo conectas vía VGA no estás aprovechando toda la calidad, en realidad el PowerDVD (o el programa que utilices) lo reproducirá a 720p, lo que pasa es que si lo tienes a pantalla completa, el propio programa te lo reescalará a 1080 (que es la resolución que tienes el escritorio), pero será un 1080 falso, un 1080 reescalado es peor que un 1080 original (cualquier resolución reescalada que provenga de una resolución menor se verá peor que un vídeo a esa resolución de origen).
Si te pones un vídeo grabado con un móvil en tu PC y lo reproduces a pantalla completa también lo verás a 1080, pero se verá fatal debido a que la diferencia entre la resolución original del vídeo y la resolución final del reescalado será mayor que entre 720 y 1080.
En cuanto a lo del cable DVI-HDMI no acabo de entender si se vé mal sólo los discos blu-ray, si el escritorio y todo lo demás también, si es cosa del encuadre, de la colometría, del brillo, etc....
Lo que sí es cierto es que dentro de las conexiones DVI hay varios tipos (creo que 3), que son la DVI-D (que es totalmente digital), la DVI-? (que es analógica) y la DVI-I (que vale tanto para analógica como digital)... que no vaya a ser que el cable por el lado DVI sea analógico (lo cuál para un cable DVI-HDMI sería una aberración).
También puede que sea cosa de tu tele (busca por internet a ver si a alguien más le pasa) o de tu gráfica (ídem) o drivers (prueba a actualizar).
También ten en cuenta (aunque no creo que sea la causa de tu problema) que las gráficas con más de una salida puede que sólo una de las salidas sea HDCP y que las otras no.
Aún así no es normal, yo lo tengo todo por HDMI y se vé perfecto, y desde luego mejor que por VGA, que lo probé en su día y a pesar de que se veía bien, no tanto como por HDMI/DVI.
Ahora bien, si una vez solucionado el tema del cable (que no es normal), si tú con un reescalado de 720 a 1080 lo ves igual o mejor que si fuera de origen a 1080 (porque el Power DVD reescale fabolusamente), pues tampoco hay que ser puritano hasta el extremo de lo absurdo. Quiero decir, que si finalmente consigues arreglar el problema con el cable HDMI pero sigues viéndolo mejor por VGA aunque sea un 1080 "de pega", pues yo de ti lo dejaría por VGA (aunque no es lo "normal").
En cuanto a los ripeos lo que yo digo es que una película ripeada a 1080 ó 720 desde un blu-ray se vé mejor que esa misma película en DVD original y sin ripear... obviamente un blu-ray original se verá mejor que un ripeo (ya sea éste un ripeo de DVD o de Blu-Ray); en todo caso si el ripeo procede de un blu-ray y es un ripeo a 1080 muy muy bueno (lo que significará que ocupará mucho espacio) puede que se vea prácticamente igual que el blu-ray original, pero por definición es imposible que se vea mejor.