Tak to je asi nějaký problém se synchronizací, nebo si grafika nerozumí s monitorem připojeným přes digitál. Když vidíš ty rozmazaný šmouhy a dáš si v OSD zobrazit info, jaké tam je rozlišení, fH a fV?
Nebo ještě fakt pro jistotu vyzkoušet ten jiný DVI kabel.

Jaký máš konektor na grafice a jakou koncovku na kabelu?
http://img.tfd.com/cde/DVI.GIF

Ten profil rád vyzkouším, případně jestli prozradíš, jak máš nastaveny hodnoty barev v menu?