Sera que tu grafica no es compatible. NVEnc solo funciona con graficas NVIDIA GTX con nucleos CUDA, si no lo tienes te dara error, logicamente.

Por CPU sera una eternidad codificar, da igual el programa que uses. S2