ALe ved odpoved si dostal...bud tam budes mat grafiku s tucnou ram, co je pri dnesnych cenach nonsens alebo budes mat PC s min 24-32GB RAM, co je tiez nonsens.
Teraz prave ladim lokalnu AI pre jednu lekarku. PC s 32GB RAM a dokonca ai positive procakom(ultra 7 265) a je to tam na hrane...a to robim len prepis speech to text, kedze projekt je o tom, ze ona vysetruje pacienta na sone a zarovne diktuje do mikrofonu cele vysetrenie, ktore sa jej prepisuje do pc a odtial po schvaleni prenasa do programu, kde ma evidenciu pacientov.
Aj takto vybavene pc za 1600 eur tak ak chcem trenovat lokalny jazykovy model na datach, ktore vytvorim tak to bez tej grafiky trva dni/tyzdne, samotny prepis trva tiez par sekund, nastastie je to stale priajtelne na to, naco sa to chce pouzivat.
Ale ak si sa len chcel pochvalit, co si ides kupit tak ok pekna masinka...len dokupenie tych ramiek a disku bude este boliet;o).
Inak moj nazor...lokalne AI su vdaka narocnosti a cene v sucanosti nie moc pouzitelne na kopec veci a buducnost je asi v hybridnych AI a myslim, ze coskoro sa zacne nieco take ponukat vo vacsom.