ty pokusy sis měl nechat na zimu: ten procesor sice krásně topí, ale výkon má jako novější atom: https://www.cpubenchmark.net/cpu.php?cpu=Intel+Core2+Quad+Q9650+%40+3.00GHz&id=1050

první směs pamětí 5gb byla smetištěm ramek. nečekám že do toho strkáš další peníze a máš teď všechny moduly stejné, zas to bude nějaký ramkový prasopes.
vždycky platí: když máš nejrychlejší ram moduly které deska umí a zároveň osadíš všechny 4 sloty, je ta kombinace nejnáročnější na kompatibilitu a často to nejede.
proto bývá bezpečný režim jen s osazenými 2 sloty, což by tvou historickou desku dnes odsoudilo do popelnice (kam kvůli spotřebě a nevýkonu stejně patří).

jestli se ve správném uspořádání ramek podaří dostat do biosu (třeba nejdřív jen se 2 moduly), zkus nastavit nižší takt ramek. lépe obětovat část výkonu než totální nefunkčnost.
když to nakonec nepojede s 8gb, doporučuju tu popelnici, nemá to smysl.

na domácí hraní se kupují repasované pc, za přiměřeně málo peněz dostaneš pohodlný kancelářský výkon, normální hardware (usb3, ssd/nvme), modernější os s kompatibilními aplikacemi.