Ty údaje o vstupním videu máš z jakého programu? 16 snímků za sekundu je nějaká divná frekvence. Doporučuji GSpot nebo MediaInfo.
Ještě je samozřejmě důležitý použitý kodek.

Není tam někde možnost nastavit uživatelské rozlišení výstupu a nejen vybírat z těch přednastavených (FormatFactory neznám)?