Když otevřeš CCC (dneska teda AMD VISION cosi), tak se tam dá někde nastavit maximální rozlišení monitoru. Je tam myslím i zaškrtávací políčko, jestli získat informace z monitoru, nebo použít vlastní. Tam bys mohl zkusit nastavit správné rozlišení a pak by už mělo jít nastavit.

Tady je více info:
http://support.amd.com/us/kbarticles/Pages/GPU-10- SupportedResolutionsUnavailableforMonitor.aspx