Zřejmě nezvládne ten program načtení streamů z toho rmvb. Patrně postupuješ podle tohoto: http://hdmag.cz/clanek/konverze-videa-pro-sony-pla ystation-3

Zkusil bych nejdřív video rmvb převést na něco lidského, třeba avi (divx,mp3). Bohužel můžou nastat u tohoto druhu videa velké problémy. Můžeš zkusit program MediaCoder, který podporuje rmvb a převést na něco normálního, popřípadě rovnou na video pro PS3 (v rozšířeních je na to šablona), nebo se mrknout na google s dotazem "rmvb to avi". Bezpečně se mi povedlo převést pár paličatých rmvb až pomocí avisynth, bohužel to není triviální záležitost.