Ojo que de momento el único dispositivo que soporta Youtube con audio 5.1 es la nVidia Shield TV. O eso es lo que están promocionando en su última actualización. Así que puede ser un problema de la versión de tu app de Youtube.

Yo tengo una nVidia Shield TV y desde unos días puedo escuchar vídeos en 5.1. Parece que genera un PCM multicanal.

https://www.androidcentral.com/nvidi...-tv-7-2-update