A mi me pasó con los subs de un mkv y no había manera de que los leyese. Al final después de mucho googlear descubrí que estaban en UTF-8. Por lo visto cuando un ripper mete subs srt en un mkv se convierte la codificación ANSI en UTF-8 y muchos reproductores se llevan mal con este formato.
Lo solucioné (gracias a Koko y josemico) extrayendo los subtítulos del mkv con el mkvextract y renombrándolos con el mismo nombre del vídeo.
No sé si eso es lo que le sucede a tu archivo
Saludos.