Poradna

Sice sme odbocili, ale teda pridam k AI aj ja nieco.
AI je dost nebezpecna, pretoze ludi 10x dobre obsluzi a na 11x im znici firmu.
AI stale dost halucinuju a problem je presne v tom, ze AI po case zacnete doverovat a jej rady plnit bez rozmyslania.
Kazde Ai, s ktorym som spolupracoval mi uplne bezne poradi, aby som problem na serveri, kde som pripojeny cez ssh riesil tym, ze sietovku vyplnem a zapnem...lenze oni to nedaju do jedneho prikazu ale do dvoch. Ked ich upozornim, ze po vypnuti sietovky stratim okamzite spojenie a uz ju nezapnem tak sa mi ospravedlania a zivot ide dalej....keby ich bezhlavo pocuvam tak musim sadnut do auta, precestovat stovky km a zapnut si ten server rucne.
Chyba im logika, su len len m0odely trenovane na datach a bezne ma vytacaju, ze ma posielaju do menu tlaciarne, ktore neexistuje, pretoze postupuju podla naucenych scenarov, akoby to menu asi malo vyzerat....ale ono tak nevyzera.
Zrovna vcera som riesil nieco na QNAPe a Claude(inac moj kamos) ma suverenne posielal v menu, ktore tam nebolo a bol strateny aj po tom, co som upresnil verziu QTS a popisal menu nad tym...vyhoda bola len v tom, ze ma naviedol, kde to mam hladat a ja som si to nasiel sam.
Alebo dalsi priklad, ked mi tvrdil, ze to nie on mi nasiel 240 dnovu trial verziu idracu a ze som sa urcite pomylil....az po 5min dohadovania som ho ukecal, ze kukni sa poriadne a on mi ju zase nasiel.

A posledny varovny priklad z clanku...akasi firma si davala AI nech spracovava nejake data na ich webe...vsetko fungovalo ako ma, ale prisla nova verzia, AI pustili do testovacieho prostredia, ktore vsak bolo previazane s produkcnym a pre istou v rovnakom cloude boli aj zalohy a co sa stalo?
Bystrejsi vedia uz co. AI narazila na problem s vykonom, rozhodla sa zmazat databazu, narazila aj na produkcnu a kedze je to AI nenapadlo ju nic lepsie ako vymazat aj zalohy. Bez opytania, bez overenia, bez potvrdenia clovekom.
Firma skoro skrachovala, mala vsak nejaku offline zalohu staru par mesiacov, takze prisla len o data stare par mesiacov, co je ale pruser u firmy, ktora poskytuje online sluzby (tusim nieco prenajimali).

A bude horsie...AI nam zacne menit aj historiu a ludia budu casom tak zmagoreni....raadsej na to ani nemysliet.
Btw uz som mal par hadok so svojimi detmi, ktore mi v niecom oponovali slovali...AI povedala, ze....a pritom nemali pravdu, ale pre nich je AI proste autorita.

Kratke nevyznamne jednoduche dotazy jsou ok.
Delsi koncerzace - tam uz je to horsi. AI pouzije jen nekolik predchozich dotazu, kasle na nastavena vychozi pravidla, kde ma zakazano halucinovat.

Pokud si to chce nekdo zkusit, zahrajte si nejakou hru, ktera v konzoli umoznuje generovat veci - treba Fallout New Vegas, pouzivejte AI na kody pro veci, na navigaci na mape, na herni postup... Po chvili hrani budete tak sprosti, ze jsem do pravidel musel pridat odstavec, ze ve chvili, kdy pouziju ostrejsi vyrazy, tak to znamena, ze ma okamzite zastavit, precist si pravidla a prehodnotit odpoved.
Po chvili zacne halucinovat, vymyslet si kody, vymyslet si smery na mape, vymyslet si postup ve hre. Casto se stane, ze predhodi kody z uplne jine hry atd. Presto ze ma v pravidlech nastaveno, aby ignorovala vnitrni pamet a vsechny odpovedi overovala z duveryhodnych zdroju.

A stejne tak, jako si vymysli ve hre, tak si vymysli vsude jinde. A bude se hadat, ze ma pravdu.
Spolehat se bezmyslenkovine na odpovedi od AI je cesta do pekla.

S dlhsimi konverzaciami nieje problem pri rozumnom nastaveni context window, ci jak sa to vola. Aby si AI drzala data a kontakt chatu XY dni dozadu. No na to treba vela pamate, takze vacsinou su tieto veci len v drahsich planoch predplatneho.

Kto pusta AI k svojim datam, kt. nema zalohovane offsite, je blazon. Ako tu uz bolo napisane, moze to skoncit vymazom dolezitych dat. Neviem preco vela ludi povazuje za normalne, pustit AI k svojim datam, ked tato moze spravit hocico hocikedy a nikoho sa nepytat.

Ono je to, ale zaujimave a neviem, ci je to vyvojom, alebo vec nahody.
Riesil som s AI poradnacky server, kde mame 2 sietovky a na verejnej casti je zdielany idrac.
Kedze mame aj privatnu siet v clustri chcel som sa dostat na tuto sietovku cez tuto siet a tak sme zacali s AI riesit ako na to...od routovanie priamo na servri, cez src nat, dst-nat na routri, rozne tunely a neviem co este...samozrejme neuspesne a to sme uz boli v stadiu, ked zacal recykllovat a opakovat svoje postupy, ktore sme uz skusali a navyse som mu cely cas tvrdil, ze mne sa jeho riesenia nezdaj a nedavaju mi ako sietarovi zmysel.
Vzdal som to vtedy po par hodinach.

Vcera som to s nim skusil po par tyzdnoch znovu a riesenie bolo hned na prvu dobru na svete...prehodenie share idrac siete na privatnu sietovku, co bol postup, o ktorom som ja netusil...myslel som si, ze idrac je napevno definovany na fyzicky interface priamo od vyrobcu.
Otazka je, ci to bol medzigeneracny vyvoj, kedze Claude presiel medzitym cez zopar verzii, alebo som mal len stastie na nove instrukcie, alebo lepsie pochopil problem...tazko povedat.

Spolehat se bezmyslenkovine na odpovedi od AI je cesta do pekla.

Je to tak.

Pro jednoduchý příklad: potřeboval jsem, aby mi AI optimalizovala pro Samba server soubor "smb.conf" pro co nejlepší výkon jako základ pro multimediální centrum.
Měla to za 5 sekund, zatímco mně by projít dokumentaci a vše vyzkoušet, zvolit adekvatní hodnoty zabralo minimálně půl dne.

Ale kdybych udělal všechno, co mi poradila, nedopadlo by to dobře.
smb.conf jsem si doupravil, ale zbytek by byla doslova cesta do pekla, protože kdybych pokračoval v postupu, odpálil bych si připojené HDDs.
AI mi totiž v postupu dávala příkazy, kde Samba přebírala vlastnictví, skupinu atd. nad připojenými disky & složky, což by znemožnilo jiným službám tyto disky používat, nebo by byly jen v režimu [read‑only].

Pak věci jako doporučení připojit NTFS disk přes ntfs‑3g na místo Paragonu, nebo že nové verze Linuxu již nepoužívají (neupřednostňují) obsah aktualizací z "etc/apt/sources.list", ale jako hlavní konfigurační soubor se ted používa [Deb822] v "/etc/apt/sources.list.d/ubuntu.sources" bych přehlédl ale kdybych se slepě řídil jen podle AI, v hodně případech by to byla katastrofa.

To, co psal Fleg, se může stát. V práci máme příručku Linuxu, ale ještě jsem neviděl, že by ji někdo otevřel nebo ji znal nazpaměť. AI někdy odhalí některá řešení, protože každý má nějaké postupy už tak nějak zaběhlé, funguji tak se neucíš novým, ale zase tak AI nedůvěřuji, abych ji používal jako PRO nástroj.

To je dáno hlavně kontextovým oknem, které je navíc u free verzí ještě o dost menší. Vychází to z principu té technologie.

Současná genAI funguje opravdu nejlépe na krátká vlákna, ideálně co nejvíce dat v co nejkratší podobě bez zbytečné omáčky. :) Pak je to samozřejmě i o modelu, který člověk použije. V praxi je nejlepší kombinace více modelů.