Já uměláka (free chatGPT) při programování používám docela dost, ale nevěřím mu ani slovo, všechno si ověřuju.
A nesnažím se ho dokopat k vytvoření celého funkčního programu, protože tam by nejspíš ve finále zvládal rozbíjet rychleji než tvořit.
Nechám ho třeba udělat návrh souboru, překopíruju si co mě zaujme (nebo co je nudný boilerplate), cokoliv si připíšu, smažu či upravím podle sebe a pak s ním řeším třeba jen jednu malou konkrétní funkci. Kterou si zase překopíruju a upravím k nepoznání.
Takže ve výsledném kódu jsem nejspíš upravil/přepsal/napsal všechny řádky (protože za všechny zodpovídám já), ale s úpravami návrhu se často líp pracuje, než začít na prvním řádku a skončit na posledním. Hlavně člověk vidí věci už v souvislostech a nepřehlédne nějakou část, kterou sice má v hlavě, ale už ne na papíře, ale "ví", že na tomhle už pracoval ...
Výborný je jako gumová kachnička https://en.wikipedia.org/wiki/Rubber_duck_debugging - když něco vysvětlím tak podrobně, aby to správně pochopil, tak už většinou mám i správné řešení a nepotřebuju číst jeho názory. (Zase na druhou stranu někdy pročtení jeho názorů způsobí, že se vzteknu, jak blbě to dělá a vylítnu "to je kravina, to se přece musí úplně jinak, takhle ..." a to takhle je hledané řešení.)
Dobrý je na pomoc s profláknutýma strukturama, kde ji většinou napíše skoro správně (takže opravy zaberou míň písmenek, než vlastní text). A s tím, že použije správná slova, která se pak hledají mnohem líp.