Pokud jsi monitor připojil přes DVI (což z tebe vypadlo až posléze), potřebuješ dual-link DVI kabel a port, který toto podporuje.
Dále musíš ve vlastnostech displeje povolit nestandardní režimy, popřípadně si takový vytvořit.
viz http://support.amd.com/en-us/kb-articles/Pages/GPU -10-SupportedResolutionsUnavailableforMonitor.aspx
edit: ještě jednou to s tebou zkusím.