1) Když zmačknete ALT + Enter, objeví se nastavení projektu. Když tam nastavíte správné výsledné rozlišení, pomůže to?
2) Nejběžnější kodek pro AVI je například XVID. Netrváte-li na AVI, můžete zkusit použít profily Windows Media Video - nejsou úplně špatný a jsou lehký na nastavení. Já osobně používám mp4 s takovýmto nastavení pro FullHD videa:
Samozřejmě musíte upravit rozlišení a bitrate dle kvality a požadovaného výstupu pro Vaše video.