La conexión por cable amarillo que estás utilizando es una toma de video compuesto. Obtendrás mejores resultados si lo conectas con la salida de Super video ( la que comentas de los agujeritos raros ).

Por otro lado las conexiones posibles (multicanal) de un Blu Ray serían bien por HDMI ( formatos de audio "HD" y convencionales ), salidas ópticas o coaxiales (DD y DTS) o salidas multicanal analógicas. En cualquier caso parace ser que tu sistema sólo posee ( según las tomas que describes ) entradas analógicas stereo, por lo que sólo podrías disfrutar del sonido stereo proveniente de las salidas analógicas del Blu Ray.