Busca en el menu de video de la PS3, hay muchas opciones de suavizado de video para DVD, BR, archivos de video, etc. lo que le dices cuando lo activas es que la PS3 haga el reescalado. Supongo que no lo tienes activado en todas las opciones y con los DVD originales no está haciendo el escalado.
¡Saludos!