Pracuje tu niekto profesionalne s AI?
Potreboval by som nieco ako brainstorming. Zacal som tento rok klasicky s jednorazovymi ulohami (weby, databazy, predikcne modely, simulacie obchodovania...atd), ale uz riesim automatizaciu, spravu serverov, nasiek, spracovanie logov....az k osobnemu asistentovi.
Mam uz nejake vlastne workflow, kde sa vie bavit claude s chatgpt, ale nepouzivam externe nastroje, kvoli setreniu tokenov, iba vlastny vyvoj.
Mam aj vlastny lokalny model rozbehany na Mac Mini.
Mam rozrobeneho osobneho asistenta cez Telegram bota (podpora n8n), kde chcem vydavat prikazyt botom cez hlasove zpravy v mobile.
Dnes si idem po Meta brejle a pokusim sa o prepojenie hlasovych povelov (inak v SK nepovolenych) cez Whatsapp a vlastny n8n server, kde sedi v shelli zaroven chatgpt a Claude.
Tolko ku mne na akej urovni som asi a teraz by som potreboval niekoho kto sa snazi riesit podobne veci na eliminaciu slepych uliciek, inspiraciu a pod.
Som na dosť podobnej ceste, len som si párkrát nabúral nos na tom, že som chcel naraz prepájať príliš veľa vecí. Mne sa zatiaľ najviac osvedčilo oddeliť samotné modely od akcií, čiže nech ChatGPT alebo Claude len rozhodne, čo treba spraviť, ale vykonanie ide cez vlastnú vrstvu s presne povolenými príkazmi a logovaním. Dosť slepá ulička pre mňa bolo aj snažiť sa riešiť dlhodobú pamäť iba cez kontext, oveľa lepšie mi funguje vlastná databáza udalostí a krátky súhrn toho, čo si má agent pri každom spustení načítať. Pri hlasovom ovládaní by som si dal pozor aj na potvrdenie rizikovejších akcií, lebo hlasová správa z mobilu alebo okuliarov vie byť zle rozpoznaná a nechcel by som, aby mi omylom niečo zmazalo server alebo poslalo správu niekam inam. Zaujímalo by ma, ako riešiš orchestrace medzi Claude a ChatGPT, či máš jedného ako hlavného koordinátora a druhého len ako konzultanta, alebo si medzi sebou odovzdávajú úlohy podľa typu problému
Okuliare som rozbehal asi po 3 dnoch, cize viem poslat halsvoku cez whatsapp, prepise sa na text, prijme ju claude a chatgpt na n8n a spravia co im povime.
Problem je spatna vazba, pretoze meta ai nevie SK jazyk, cize spatnu spravu poslanu cez whatsapp mi nevie precitat, musim ju precitat v mobile.
Riesenim by bola komunikacia v EN.
Orchestraciu riesim rucne, pretoze mam pocit, ze pri automate sa lubia zaseknut (Anthropic uvadza az 15x vyssiu spotrebu lri multiagentnych systemoch) a spotrebovavat vela tokenov, takze komunikacia prebieha tak, ze si posielaju odkazy, ktore sa vsak neprijimaju automaticky, ale vzdy ich musim schvalit ja, ci chcem aby reagovala protistrana.
Nemaju urcene priame ulohy, respektive su rovnocenni a ja pocas ulohy riesim kto bude nakoniec vykonavatelom. Ak pride nova verzia robim obcasne preverania starsich uloh a castokrat je vidiet posun oproti starsim verziam a dodatocne sa upravuje projekt (napr z hladiska bezpecnosti).
CHatgpt je lepsi v ovladani pc, aj ked Claude spravil obrovske pokroky oproti zaciatkom dispatchu, ale stale mam pocit, ze pomalsi a slabsi ako codex.
Primarne vsak vyuzivam Claude, ktory mi vybudoval vacsinu onfrastruktury a chatgpt nasadzujem viacmenej ak sa zaseknem...ok teraz som robil reportne dockre do nasiek a to som nechal spravit codex lebo sa mi nechcelo klikat na vsetky naska....vsetko fajn, ale brutalne to prepaluje tokeny, uz som musel pouzit aj reset tokenov dokonca.
KB(knowledge base) som robil hned na zaciatku medzi prvymi vecami.