Mozno keby si napisal co presne to pise tak by sa dalo mozno aj poradit.
Vseobecne, nastavenia javy su v ovl.panely - java. (a neviem preco si myslis ze ak hra potrebuje 64bit neco ze to pojde na 32bit neco)
P.S. kolko RAM maximalne moze java pouzit sa nastavuje parametrom -Xmx (dopises rucne k parametrom s nejakou hodnotou) mas to popisane uz v linku vyssie