Pre 3D hry máš na výber v podstate len OpenGL a DirectX. Keďže to chceš v browseri, tak DirectX neprichádza do úvahy a zostáva ti len OpenGL. Nech si zvolíš čokoľvek (OpenGL/DirectX, v browseri/na desktope), budeš sa musieť v každom prípade naučiť, ako fungujú matice, ich transformácie, ako sa využívajú pri renderovaní, ako používať buffre pre grafickú kartu, ako nahrávať textúry, ako použiť vertex shader/fragment shader a pod.

Pre 3D hru v browseri by som uprednostnil skôr ten JavaScript pred Javou. Java v browseroch je mŕtva, to už radšej zomierajúci Flash. Pre 3D v browseri je určené WebGL, ktoré je podľa mňa na to ideálne. Pracuje sa na štandarde, ktorý umožní mouse lock vo webovej stránke, takže niekedy v ďalekej budúcnosti snáď budú použiteľné v prehliadačoch aj FPS hry.

Čo sa dá dosiahnuť pomocou WebGL si môžeš pozrieť napr. na týchto príkladoch: prvý a druhý (video pre tých, čo majú neschopný browser).