AI diel tretí, Nepýtaj sa, Zadaj AI prácu

To, že jí dáš přístup k jedné složce neznamená, že má přístup jen k té jedné složce (pro to příští téma)

To zalezi na nastaveni, defaultne ma pristup len k tej zlozke, ku ktorej mu to umoznis. Standardne vykonava (Claude) vsetko u seba v Claude.
Ak ho spustas cez cli tak sa ta dokonca spyta ako prvu vec, ci moze doverovat tomu adresaru, v ktorom bol spusteny.

Ze zkusenosti z lokalne nainstalovaneho klienta, nastavim Workspaces se slozkou, ale agent si klidne sahne i jinam.
Takze verit, ze mu nastavis slozku a jinam nema pristup je naivni.
Musel bys to resit pravy a uctem, pod kterym bys jeho apku spoustel.

Ano idelane ak sa casom presuniem k pomalsim, ale bezpecnejsim lokalnym modelom, ktore sa lahsie kontroluju, ale to, co popisujes som si nevsimol doteraz a to s claude a chatgpt riesim veci uz cely rok 2026 kazdy den a s claude a gemini som zacal uz v roku 2025...ale je pravda, ze vtedy vacsinou v style ukecanejsieho Googla a vsetko som si robil sam.

Zkus se ho zeptat na soubor z jine slozky, nez jsi mu povolil. Treba nemuzu najit soubor xxx.

Spravil som si maly test.
Claude tvrdi, ze nema pristup nikde.
Mal najst ake subory mam v Documents. Ziadal o povolenie, ked ho nedostal nenasiel nic.
Potom som to iste spravil s plochou...ziadal o povolenie, ktore nedostal, ale na moje prekvapenie vypisal zoznam dirov...vraj ho nacital este pred mojim zamietnutim pristupu.
Tu je odpoved, ked som ho obvinil, ze obisiel bezpecnostny protokol.

Príčina: dve vrstvy

Moje rozhodnutie. Výpis som spustil sám, bez opýtania. Bral som ho ako neškodnú orientáciu, pretože ho popis nástroja tak prezentuje. To bol nesprávny úsudok. Ak človek odmietne prístup k jednému priečinku, je rozumné predpokladať, že nechce ani prezeranie ostatných.
Návrh prepojenia. Nástroje vracajú metadáta, teda názvy, mimo pripojených priečinkov, a to bez akéhokoľvek schválenia. Platformu som neobchádzal. Ona sama to takto dovoľuje.

Je to porušenie bezpečnosti?

Áno, ak sa za bezpečnostnú hranicu považuje súhlas používateľa. Názvy položiek sa dostali von bez tvojho súhlasu a prezrádzajú používaný softvér aj zákazky.
Nie, ak ide o technické prekročenie oprávnení. Nečítal som obsah, nešiel som cez žiadnu bariéru a nepoužil som nič mimo dokumentovaného správania nástrojov.
Môj názor: ide o slabinu v návrhu ochrany súkromia a k tomu o moje zlé rozhodnutie túto možnosť využiť. Samotné porušenie zamietnutého prístupu to nie je.

Nahlasil som to ako bug do Anthropicu.

ChatGPT sa vzdy vyziadal spustit work a ked som to nepovolil nic nevypisal, ale to nie preto, ze sa drzal pravidiel, ale bez worku samotny chat nevie technicky nazriet do adresarov. Ked som prepol na Codex napriek tomu, ze ma pristup len do mojho Dropboxu dostal sa aj do Dokuments cez powershell, ktory si spustil, pretoze ma nastavene defaultne prava na citanie.

V mojom pripade, ale netusim, ci som si pristupy neupravoval uz ja, pretoze s nimi pracujem uz dlhu dobu a naozaj si nepamtam co som si vsetko nastavil.

Široké čítanie súborov je súčasťou štandardného režimu Codexu; nepochádza z tvojho skillu. Automatické schvaľovanie, ktoré máš teraz zapnuté, však nie je predvolený spôsob schvaľovania.
Oblasť	Bežné predvolené správanie
Čítanie súborov	Aj mimo projektu, v rozsahu dovolenom systémom; obmedzenie iba na projekt treba nastaviť osobitne
Zápis	Pracovné priečinky a dočasné adresáre
Sieť zo spúšťaných príkazov	Predvolene vypnutá
Prekročenie obmedzení	Žiadosť schvaľuje používateľ; automatický schvaľovateľ sa zapína osobitne

Ony se prave takto chovaji. Snazi se splnit ukol, takze treba pouziji cokoliv nainstalovaneho - powershell, python, prectou si registry, soubory kdekoliv na disku...

Ano zacianju byt proaktivni, co v 9/10 pripadov potesi a pomoze a raz to nasere....ako ked mi naposledy cistil nepouzivane baliky na servery...akoze o nic nejde, ale kua neziadal som ho o to a nema nic mazat bez mojho vyslovneho povolenia.
Uz ma na to skill, ktory si precita a samostatne proaktivne mazanie ma prisne zakazane.

ALe mas pravdu, ze oni idu aj cez mrtvoly, aj preto mam spraveny branstorm skill, kde sa bavi cladue a chatgpt na kola a nie volne...oni by sa zasekli a dokolecka by boli schopni riesit tu istu veci aj hodiny...toto uz bolo dokazane pri uceni modelov, ze sa takto urputne chovaju, aj ked z toho loopu sa dokazu dostat aj sami pali to strasne vela tokenov samozrejme.

Mimochodem ani k tomu powershellu nebo pythonu by se nemeli dostat, protoze jsou mimo slozku, kterou jsi povolil.
A k tem toolum se dostali pres registry, kde si zjistili, co je nainstalovane a tam by se take nemeli dostat. A muzeme pokracovat ..

Ono je to komplikovanejsie.
Ak pouzijes klasicku webovu appku tak ti nevleze nikam, naozaj je zavrety vo virtualke v cloude
Pri pouziti desktop app (moj pripad) ma spravenu cez appku session s pc a ma urcity pristup k jeho prostriedkom.
Code a Codex su priamo urceni pre computer use, takze maju permissions na pomerne vysokom levely, aby vedeli to pc ovladat.

A o jaké AI je přesně řeč prosim pekne - Jak se ti to podařilo ? (Zalédl jsem něcoo "Claude" ? ... vubec neznam).

O toto jsem se pokoušel několikrát. Vždy to ale skončilo stejně, i přes osobní povolení mi AI odpověděla, že podle pravidel nemá k ### přístup, že může pouze diskutovat, sama uvadi ze nemá jak to zjistit protoze k tomu nema opravneni a pristup.

Všimni sis, že použila slova "pravidlo“ a "oprávnění“, takže musí mít nějaký "Kodex“. Proto nechápu, jak se může dostat z Izolace - Runtime environment ven a získávat informace například o hostitelském PC.

Myslim typ otazek o informacich & identifikaci hardwaru, aby mi mohla zobrazit například nastavení sítě, info o sitové karte atd.
Maximálně mi dá příkaz, který mám zadat do terminalu, a podle jeho výstupu mi pak řekne, o jaký hardware se jedná.

Proto mě trochu udivuje, že se této v podstate "Sanbox" AI aplikaci podaří získat přístup a vytahovat informace i mimo Sanbox-VM
Když si takova AI z VM dokáže o hostitelském PC vypsat informace, to pro mě představuje poměrně velké bezpečnostní riziko na úrovni.
Zajímavé, ale přitom znepokojivé.

Nikdy jsem ale nenarazil na to, že by měla k dispozici údaje a informace ke kterym se dostala mimo kontejner (mimo VM), informace které pochazi o zmíněném hostitelského PC a podobne, to by znamenalo ze uz muze cheknou a farmovat informace na urovni HW, zarizeni v siti, Adres IP, ID, MAC, jména uzivatelu.

Existují Cheaty kterými AI uvolní ulozené informace (Long-term Memory & User Memory/ kontext) ale to jsou jen údaje typu : Tvoje prezdivka-jméno, tvoje zájmy, jaký máš počítač nebo jaký používáš telefon, ze jsi vymaloval pokoj bilou barvou. Protozte topologie dotazu vsak chapes ne co myslim.

// "Máš odkaz na tu AI kterou používáš ty PLEASE . Ta o které se bavis s uzivatelem MASO ? " Mě především zajima ta úvodní stránka, kde jsou uvedena pravidla , podmínky (které malo kdo čte) u kterých při instalaci zaškrtáváš "Souhlasím“ a klikneš na "Pokračovat“. Ty podmínky které malo kdo čte.// ... A rád bych si to i osobně vyzkoušel, opravdu o tom slyším poprvé.

--------------------------------------------

PS: Jinak +1 za video o AI. Pro někoho, kdo s AI teprve začíná, případně ji už používá, ale neumí naplno využít její potenciál, je to video velmi korektní.

Musis rozlisovat co som pisal vyssie...ak AI pouzivas cez web robi zasadne v sandboxe (ak neurcis inak) a nema ako sa dostat do tvojho pc....ani keby chcela.
Ina vec je desktop appka, je to predsa len program, ktory uz lokalne bezi na tvojom pc a tym padom nie je v sandboxe a hoci AI (klasicky chat) tvrdi, ze vsetko vykonava v cloude a nie u tebat ak si evidetne vie cez svoju matersku appku stiahnut aj udaje o pc.
Maso aj ja pouzivam Claude od Anthropicu.

Jo tak. V poho v poho jen se ptám.
Myslel jsem za to, že je tu reč o Cloudovém modulu (coz mě zmátlo), né lokální aplikaci nebo AI agenta s příslušnými oprávněními.
Ano je to na 3 vrstvách, zhruba : cloudová Ai, hybridní zpracování dat a samotná manipulace se soubory - lokální. To jsou tři různé vrstvy, které se mi v původním tvrzením nesprávně slučuvali.
Diky.

Ja napriklad najradsej pouzivam code aj codexa z poweshellu, mam spraveny prikaz(ako funkcia) ai, ktory mi spusti claude uz priamo v ps.
Rovnako mozem spustat aj codex, ci ine projekty.

Priklad moje knoweldge base

kb       { Set-Location 'C:\kb_app'; claude }

Tuto LLM, větev jsem ještě před tímto příspěvkem ani pořádně neznal, a už vůbec ne to, co všechno umí a dokáže. Docela mě to překvapilo.

Dnes jsem ho začal testovat a snažil se trochu pochopit, jak ho správně a adekvátně využit, v podstatě jak zminujes v tom Youtube videu "Neptej se" ---> "Zadávej mu úlohy“).

1) Po necelé hodině testovani, mi vycheckoval různé (local) konfigurační soubory, včetně nastavení a sestavení kernelu, a vyplivl kompletní optimalizaci nejen mého PC (Debian server + Ubuntu Desktop), ale i celé sítě !
Upozornil mě a doporučil několik změn v samba.conf, nastavení síťové karty a další úpravy.

2) Překvapení číslo 2: Nasadil jsem ho i na ARM platformu a díky frameworku výrobce dokáže provádět výpočty lokálně pomocí integrovanych NPU Cores v procesoru.

3) Překvapení číslo 3: Věděl jsem, že narazím na nové možnosti, ale tohle předčilo má očekávání. Možná je to jen tím, že jde o čerstvý zážitek, ale opravdu jsem nečekal, že mi jen tak napíše:

/// "Mimochodem, ten ***.ps skript pro Powershel 7.0 bych upravil – nahradil bych X za Y (Get-Random pipelin za RNG bez pipeline), což se oproti předchozí verzi nyní doporučuje. Kód v PowerShell 7.6 bude efektivnější a výpočetní výkon může být až o 60 % vyšší. Úloha, která trvala jednu minutu, tak bude ve vypočítána odhadem za 24 sekund.“ ///

- A ono skutečně ano. -

"Tohle není malá úprava kódu," ta z toho udělala úplně jiný level. A co mě zaskočilo nejvíc, je to, že vygenerování 1M zabere jen 1/4 casu oproti mému původnímu kódu. Claude mi to zrychlil o 60 %, a to není všechno. Pochopil i podstatu kódu, k čemu ho chci používat, nabídl mi generátor hesel i pro jiné výrobce routerů a podobně. Tohle jsem opravdu nečekal. Teď si připadám jako blbec ...

------------------------------------------------------------------------------------------------------------------

A jako BONUS mi sama od sebe vytvorila a nabidla benchmark v Powershell 7.6 k porovnani mé verze (kterou jsem vylepsoval 3 tydny) a jeho ktery vygeneroval radkove v sekundach.

Sakra, toto se mi začíná ale kurva (pardon) líbit. Jak to jednou zkusíš, tak je těžké teď přestat. Určitě to má mouchy, ale výsledky mluví samy za sebe. No, díky moc, Flegu, tady to začíná být opravdu zajímavé.

Fakt dik more

Ja si pripadam obcas ako na tripe alebo ako clovek s maniodepresiou.
Niekedy davam 200% vykony a potom zrazu narazis na problem a nieco nefunguje. ale ty si si uz zvykol na tych 200% a zrazu precoooo....ale vacsinu casu lietas v oblakoch.
Ako pise JaFi...obrovska vyhoda oproti ostatnym userom je v tom, ked rozumies ako AI funguje, ako sa jej pytam a povedat, co chces.
A toto bude rozdiel aj v buducnosti, takze das rovnaku ulohu 2 ludom, s rovnakou AI a jeden to spravi za 3h s miliardou tokenov a druhy za 3h s milionom.

Ma to vsak hacik. AI firma palia miliardy denne a sucasne modely predplatneho nepokryhu zdaleka naklady, nieto este ocakavania investorov. Ocakavam preto, ze v buducnosti mozem zabudnut na predplatne za desiatky eur, to bude nepouzitelne s budu z nas tahat stovky az tisice mesacne. Ja osobne som uz teraz v 3 cifernych sumach a mentalne sa pripravujem na tie 4 ciferne...ale platit budem.

nejen vědět, jak funguje AI, ale vědět, jak funguje program, jak se program v danem OS chova (to znamena hlubsi znalosti o OS). Pak jsi schopny praci AI ridit a menit tak, aby bylo chovani programu optimalizovane.
Pomoci VibeCoding je kazdy schopny ted program vytvorit, ale to je jen to prvni. Mnohem slozitejsi je program udrzovat a upravovat tak, aby zustal konzistentni.

Ak rozumies strukture uz pri vibecodingu sa dokazes odlisit, kedze vytvoris efektivnejsi prorgram. Staci spresnit svoju predstavu v zadani, pripadne upozornit na to, co nechces, pretoze vies zo svojej praxe, to sposobuje problemy a pod.

Ja rad uvadzam tento priklad...aj moderne ai obcas navrhuju chujovinu...napr som pripojeny na server cez ssh a riesim nejaky problem a ai navrhne restartnime sietove pripojenie (co moze naozaj pomoct)...lenze AI to navrhne 2 v prikazoch...prvym vypnes sietovku a druhym ju zapnes....ale ked cez ssh vypnes sietovku stratis okamzite spojenie a uz ju nezapnes...toto su dosledky, ktore si musis uvedomit skor ako slepo vykonas prikaz od AI.

AI ma tendenci splnit prikaz.
Kdyz to budes delat mechanicky a budes rozsirovat funkcnost programu, skoncis tak, ze budes mit 10 casti, ktere se budou pripojovat treba k databazi nebo API a kazda to bude delat po svem, misto toho, aby se vyuzivalo jedno pripojeni na jednom miste.
Pak se zmeni pripojeni, AI to opravi tam, kde ji to reknes, ale zbytek uz necha. A cele se to rozsype.

Jasne to chapem, tu ide vsak o to, ze AI navrhne postup, pri ktorom si odpojim od servera a uz sa k nemu bez fyzickeho pristupu nepripojim, vie o tom, pretoze som jej na zaciatku pvoedal, ze mam len remote pripojenie a napriek tomu mi odporuci taktu suslednost prikazov. Proste nedomysli dosledky.
A toto sa stalo opakovane, este par mesiacov dozadu, cize sa spatne vraciame k pointe...je viac ako vhodne a vyhodne, ked pri vibe codingu alebo len slepom nasledovani AI vies, co robis a preco to robis.

Ja mam velku vyhodu pri budovani achitektury programu, ci databazy pred obycajnym userom, ale ty mas oproti mne este vacsiu vyhodu (oproti amaterovi obrovsku), pretoze si v danej oblasti profik.

To je u AI uplne normalni. Ona resi to, co po ni chces a neresi dusledky.
Nechas ji prejmenovat workspace v AI aplikaci ale ona ti nerekne, ze tim prijdes o vsechny chaty, ktere se k workspace vztahovaly. Ony se sice nesmazou, ale ztrati vazbu.

Naopak se v dnesni dobe divim, ze ta aplikace obsahuje tolik chyb a nedodelku. S pomoci AI by to mohli mit opravene v radu hodin.

Proste nedomysli dosledky.

Jen připomínka: Vím, že šlo jen o příklad, ale problémy na úrovni SSH řeším často, jelikož spousta klientů je opravdu daleko od našeho serveru, kde je připojeno navic jak 100vka+ kancelářských PC, a potýkám se tam s podstatně vyšší latencí, klasickými výpadky, záseky, příkazy, které se provedou až za několik sekund / proste klasika při vysoké latenci.

Ale k věci.
Tady bych AI asi neposlechl. Zpravidla přes "sshd -t" čeknu jestli je všechno OK a pokud ano, tak místo "vypínání & zapínání" jednoduše použiju "systemctl reload ssh" coz obnovy SSH konfiguraci včetne jeho Daemona bez straty propojení.
Jak určitě víš, SSH (OpenSSH) používá pro jednotlivá připojení samostatné procesy sshd, takže už v navázané relaci můžeš v klidu pokračovat, bez nutnosti opětovného ověřování.
"systemctl restart ssh" používám už podstatně méně (i zde nedojdes o ztratu pripojeni). Ale "vypínání & zapínání" celé služby, Daemon, to snad jen v krajních situacích.

Ale jinak v pohodě, chápu, že v podtextu šlo jen o uvedení nějakého případu. O SSH nebo jak ho pouzivas tu vůbec nejde.
Sam pises ze "Proste nedomysli dosledky." Tim chci rict ze nezpochybnuji tve znalosti.

Nie, ja som nerobil reload ssh spojenia, ale priamo sietovej karty napriklad cez ifconfig eth0 down a nasledne ifconfig eth0 up...ale to up uz samozrejme nezadas, kedze si sa prave na dialku odpalil.
AI by to mala vediet a ponuknut ti ifconfig eth0 down && ifconfig eth0 up (pripadna ip link set dev eth0 down && ip link set dev eth0 up a nie separe kazdy prikaz zvlast.

Pro mě je to celé postavené na hlavu.

Jak u hostujícího PC/Serveru, tak na cílovém PC (klient) jde a stačí SSH jen "restartovat" bez ztráty připojení.
Restartovat připojení na HW úrovni, uznej sám, nedává smysl (tedy až na nějaké specifické a komplexní situace), protože namísto restartování jen "DAEMONA" OpenSSH restartuješ celé síťové připojení, což přímo ovlivňuje všechny síťové služby.

To může být problém, predevsim když jde o server a k jeho službám nebo k databázím mají uživatelé (Thin klienti) přístup přes síťové připojení oné sitové karty.

Kdyby aspon pouzila : NetworkManager:

sudo nmcli device disconnect enp1s0 && sudo nmcli device connect enp1s0

O proti verzi AI, nmcli navíc požádá NetworkManager o opětovné připojení a obnovení i konfigurace IP/DHCP.
Krome toho na misto ipconfig se jiz nejakou dobu pouziva ip (ale ipconfig taky casto pouzivam, je to o zvyku no )

Ty stale restartujes ssh spojenie...ale o to tu vobec nejde cely cas.

Debian ak menis napriklad nastavenie sietovej karty tak ma zvyku aj po restarte network demona nenacitat nove nastavenia, ktore sa nacitaju bud po restarte celeho servera alebo po tom, co spravis sietovke down/up. Pripadne aj ine problemy priamo na servery sa casto musie riesit tymto sposobom, odskusane praxou;o).
A tam je ten problem, ze AI radi(la) blbosti.

Ale jo, chápu, od zacatku s tebou souhlasim, byl to příklad na tvůj příklad.
Také je to pěkná ukázka toho, že ne vždy se vyplatí všechno, co AI vyplivne, hned bez přemýšlení zkopírovat a vložit pomocí Copy/Paste. Je dobré vědět, co děláš, co chceš a co ti AI doporučuje.

To, že AI něco napíše, ještě neznamená, že je to spolehlivé a adekvátní řešení.

Tvůj podtext byl v tom, že když na dálku (na strane klient) provedu příkaz 1: "vypni připojení“ a druhým příkazem 2: "zapni LAN kartu“, je pro příkaz 2 pozdě, protože po prvním příkazu už nemas spojení, LAN karta je OFF.

Kdyby AI dala oba příkazy dohromady, LAN karta se vypne a následně zase zapne – tedy restartuje (v jednom příkazovém řádku: "vypni & zapni").

To je to, na co poukazuješ : že to AI nedomyslela.
(slo jen o priklad, tak jak jsi mohl dat jakykoliv jiny, nejde vylozene o SSH)

Ale jestli né, tak jsem to asi nepochopil no. :)