Me suena haber leído que no está soportado sacar señal por las dos tomas HDMI simultáneamente con diferente resolución en cada una de ellas. En principio se sacaría la señal de resolución más baja por las dos salidas. Prueba a forzar el Blu-Ray para que su señal de salida sea Full HD y comprueba si se muestra en el proyector y en el monitor sin problemas. Entiendo que tienes el receptor configurado para que no procese la señal HDMI de entrada y que su paso a la salida sea directa.