Takové dotazy už tu byly...
http://pc.poradna.net/question/view/244417-linux-se rver
Na seriózní provoz potřebuješ hlavně konektivitu. Zatížení serveru si otestuj třeba na Vmware a pak můžeš koupit hardware odpovídající výkonem. Bude to prostě pécéčko, skutečné serverové komponenty asi kupovat nebudeš.
Edit: OS vybírej podle aplikací které na tom poběží. Nebudeš-li chtít ASP.NET nebo nějakou specifickou Win aplikaci, asi nemá smysl o Windows uvažovat.