La grabación de HD en un cinta miniDV es factible gracias a la compresión de la señal gracias al codec usado por la cámara en cuestión y lo hace en AVI. Muy distinto es intentar hacerlo uno mismo con un soft de aficionado...y de Apple
Muy pocas cámaras de aficionado permiten la grabación en cinta de 720p, lo hacen generalmente en tarjeta, por lo que la compresión es superior y en mpeg4 por lo general. Así que tal como compruebas la calidad desciende de forma vertiginosa. Esto es lo que te está sucediendo.
A día de hoy la HD en cámaras domésticas está muy limitada (al límite de ser el timo del tocomocho), en algunos casos cualquier edición del material se lleva por delante la calidad de lo grabado.
Básicamente si se quiere realizar ediciones trabajadas serán las cámaras que graban en cinta directamente las que nos ofrecerán más versatilidad. Las de tarjeta como mucho al corte y a un BD de forma directa