Ak ti výsledný exe nefunguje mimo IDE, tak asi potrebuješ k nemu nahrať aj tie knižnice, na ktorých je závislé. Aby si našiel, ktoré knižnice potrebuješ, tak môžeš použiť Dependency Walker.

Aby to bol len jeden exe súbor, tak musíš staticky prilinkovať všetky knižnice, ktoré tá aplikácia používa a nie sú súčasťou operačného systému.

K podotázke:
Ikona a číslo verzie je v resourcoch. K nastaveniu ikony je celkom dobrý popis v dokumentácii Qt, alebo konkrétne pre Windows na MSDN. Ako má byť v resourcoch definované číslo verzie, si môžeš pozrieť napr. na MSDN.