Jsou zobrazeny jen nové odpovědi. Zobrazit všechny
Předmět Autor Datum
Jsem to asi blbě napsal. Nechci doporučit nějakou lokal al na ten můj acer. Zajímá mně nový počítač,…
BigSandy 18.11.2026 08:48
BigSandy
ALe ved odpoved si dostal...bud tam budes mat grafiku s tucnou ram, co je pri dnesnych cenach nonsen…
fleg 18.11.2026 09:09
fleg
Myslím, že tady trochu směšuješ několik odlišných věcí. Přepis řeči na text (Speech-to-Text), infere… nový
HPET 18.11.2026 16:58
HPET
Nemiesam, len som to mozno napisal nie celkom pochopitelne pre kazdeho. Som vo faze, kedy lokalny mo… nový
fleg 18.11.2026 17:59
fleg
Tak v tom případě si rozumíme. Jen bych ale rozlišoval mezi trénováním samotného modelu, jeho fine-t… poslední
HPET 18.11.2026 18:11
HPET

ALe ved odpoved si dostal...bud tam budes mat grafiku s tucnou ram, co je pri dnesnych cenach nonsens alebo budes mat PC s min 24-32GB RAM, co je tiez nonsens.
Teraz prave ladim lokalnu AI pre jednu lekarku. PC s 32GB RAM a dokonca ai positive procakom(ultra 7 265) a je to tam na hrane...a to robim len prepis speech to text, kedze projekt je o tom, ze ona vysetruje pacienta na sone a zarovne diktuje do mikrofonu cele vysetrenie, ktore sa jej prepisuje do pc a odtial po schvaleni prenasa do programu, kde ma evidenciu pacientov.
Aj takto vybavene pc za 1600 eur tak ak chcem trenovat lokalny jazykovy model na datach, ktore vytvorim tak to bez tej grafiky trva dni/tyzdne, samotny prepis trva tiez par sekund, nastastie je to stale priajtelne na to, naco sa to chce pouzivat.

Ale ak si sa len chcel pochvalit, co si ides kupit tak ok pekna masinka...len dokupenie tych ramiek a disku bude este boliet;o).

Inak moj nazor...lokalne AI su vdaka narocnosti a cene v sucanosti nie moc pouzitelne na kopec veci a buducnost je asi v hybridnych AI a myslim, ze coskoro sa zacne nieco take ponukat vo vacsom.

Myslím, že tady trochu směšuješ několik odlišných věcí. Přepis řeči na text (Speech-to-Text), inference jazykového modelu a jeho trénování jsou tři rozdílné výpočetní úlohy.
To, že ti trénování vlastního modelu na konkrétní sestavě trvá dny nebo týdny, ještě nic nevypovídá o použitelnosti lokální inference.
Stejně tak bych netvrdil, že 24–32 GB RAM je dnes nesmysl. Záleží na konkrétním modelu, jeho tzv kvantizaci, způsobu inference a na tom, zda se výpočty provádějí na CPU, GPU nebo NPU. Navíc systémová RAM a VRAM nejsou zaměnitelné veličiny.

S hybridní AI souhlasím, určitě má své místo. Ale z toho bych rozhodně nevyvozoval, že lokální AI je dnes obecně málo použitelná. To je podobné, jako kdybychom podle jednoho náročného projektu hodnotili použitelnost celého segmentu hardwaru.
Podle mě je podstatné nevybírat hardware podle marketingového označení AI PC nebo podle jednoho vysokého čísla TOPS, ale podle konkrétní úlohy, kterou má zařízení dlouhodobě a efektivně vykonávat. Kdo toto nehápe tak ...

Nemiesam, len som to mozno napisal nie celkom pochopitelne pre kazdeho.
Som vo faze, kedy lokalny model dokaze prepisovat text len s niekolko s oneskorenim, co v mojom pripade nevadi, pretoze kym sa doktorka presunie od Sona k pc uz ma text na obrazovke prepisany.
Model som "ucil" pridavanim slovnika odbornych vyrazov a momentalne "trenujem" na sade audio vysetreni od doktorky, ktora objavuje slova, ktora sa spodobuju, pripadne pridava nove odborne vyrazy do slovnika.
S klasickym trenovanim LLM modelu v radoch dni/tyzdnov to vsak nema nic spolocne....vtedy totizto nemenim vystup, ale model samotny.

Modely bezia cez OpenVimo, pri priebezzom vylepsovani pouzivam aj Silero VAD na idenfikaciu reci, kredor/punctuate-all, ktory doplna interpunkcne znamienka a kinit turbo pre rospoznavanie hlasovych povelov, kedze nahravanie ovlada lekarka hlasom a tam potrebujem rychle reakcie modelu..

Tak v tom případě si rozumíme.
Jen bych ale rozlišoval mezi trénováním samotného modelu, jeho fine-tuningem a přizpůsobením celého ASR řetězce konkrétnímu prostředí.
Přidávání odborného slovníku, VAD a následné doplnění interpunkce jsou technicky vzato různé fáze zpracování, nikoliv automaticky "trénování modelu".

Ale každopádně je to docela pěkný příklad praktického využití lokální AI, zvlášť když celý systém zvládá přepisovat řeč s dostatečně malou latencí pro reálné použití jako v té zminené "lékarni".

Zpět do poradny Odpovědět na původní otázku Nahoru