VLC ma tak neintuitivni nastaveni, ze jsem to ani nezkousel. Prehraval jsem to v PotPlayeru, tam jde nastavit vsechno.
Vykreslovani videa v PotPlayeru je v predvolbach - video - modul vykreslovani videa. A dekoder je v ovladani filtru - dekoder videa a tam si nastavite, co potrebujete. Ja mam treba pro H264 CUDA dekoder a zbytek mam default.