Tento článek shrnuje moje zkušenosti s používáním umělé inteligence, zejména pro datovou analytiku. AI používám i pro další oblasti, ale v tomto článku se jim věnovat nebudu.

Obligátní poznámka: vaše výsledky se mohou lišit. Bude záležet na grafické kartě, velikosti VRAM, na modelu, na velikosti kontextového okna, na agentovi a také na tom, jaké mantinely (harness) mu dáte.

Prima parťák

AI agent je pro mě parťák se kterým se domluvím pomocí češtiny nebo angličtiny. Používám ho na více typů úkolů na kterých pracujeme společně. Někdy mu nechám více volnosti, někdy méně. Jako hlavní výhodu vnímám celkovou větší efektivitu.

Někoho možná překvapí, že nepoužívám výhradně ty největší modely. Dobře a rychle mi fungují středně velké modely, které mají jen desítky miliard parametrů.

Jsou samozřejmě chvíle, kdy je lepší využít inteligenci velkých modelů.

Data a AI

Dobré výsledky mám s používáním agentů pro datovou analytiku, kdy agenta dovybavím dovednostmi a nástroji, díky kterým se z něj stane analytik. Může tak využívat data, odpovídat na konkrétní otázky běžným jazykem nebo vytvářet reporty.

Pokud mám model spuštěný v uzavřeném, zabezpečeném prostředí, agent získá přístup k datům, která bych do cloudu nikdy nenahrál.

Téma bezpečného používání AI je na delší článek. Moje zkušenost bohužel je, že někteří vývojáři i uživatelé nevěnují bezpečnosti dat takovou pozornost, jaká je potřeba.

Lidský dohled

Práce s daty je zároveň perfektním příkladem, kdy to bez lidského dohledu (human-in-the-loop) nejde.

Tím, že rozumím datům a vím na co se ptám, agenta kontroluji, aby si nevymýšlel. Opravím ho, pokud se splete a dám mu zpětnou vazbu, aby příště nehalucinoval. Už jenom fakt, že agent dokáže používat Python a SQL znamená, že jeho odpovědi budou více deterministické.

Mě osobně tenhle způsob práce pro některé situace – např. iterativní proces – funguje lépe, než práce s notebooky jako je marimo nebo Jupyter.

Spoustu nástrojů na výběr

AI modely samozřejmě těží ze svojí znalosti populárních jazyků jako je Python a SQL. Zejména Python přispěl k rychlému rozvoji datové vědy a umělé inteligence jako takové.

Ať už pracujete pro malou firmu nebo velkou korporaci, můžete si vybírat z širokého ekosystému nástrojů. Mnoho z nich je k dispozici zdarma a s otevřeným zdrojovým kódem, jiné jsou komerční, další kombinují tzv. community verze s rozšiřující funkcionalitou za kterou si připlatíte.

Většina z nich v nějaké formě nabízí AI – ať už přímo integrovanou do produktu nebo jako třeba MCP server. Dobrý přehled šířky a hloubky Data a AI ekosystému nabízí známá MAD Landscape.

Kolik řečí umíš

Angličtinu zvládají AI modely perfektně. S češtinou je to složitější. Česky rozumí, takže se s AI můžete normálně bavit a zadávat příkazy v rodné řeči.

Když ale přijde na odpovědi v češtině a tvorbu textu, je to trochu horší. Sice z toho čeština vyleze, ale někdy se jí popletou slova, někdy vytvoří úplně nová a někdy vypíše část textu v azbuce.

Slyšel jsem názor jednoho odborníka, který tvrdil, že čínské modely mu dávají lepší češtinu než český model, který vyvíjí jedna známá česká společnost. S češtinou prostě AI zápasí a je to i proto, že vstupních dat k natrénování je v angličtině mnohem víc.

Začátek velké změny

Pro mě osobně byl velkým prozřením moment, kdy jsem poprvé použil agenta. Agenti mě osobně zefektivnily spoustu práce. Už jen tím, že pracují s daty na lokálním PC, vidí soubory a složky, vyhledávají na webu. A to všechno při zachování bezpečnosti, protože dostanou přístup jen tam, kam je chci pustit.

Umělá inteligence přináší změnu pro celou společnost. Tak velkou, že si ji zatím mnoho lidí není ochotno připustit a nedokáže ji uchopit. Nebo dokáže, ale zatím jen v omezené formě chatbotů.

To není samo o sobě špatné, jakákoliv pomoc je dobrá a těžko můžeme očekávat, že všichni uživatelé začnou používat agenty nebo dokonce loop engineering. Většina běžných uživatelů si vystačí s pochopením základů používání umělé inteligence, takzvané AI gramotnosti (AI literacy).

AI transformace

Při zavádění AI do firem je důležitý pragmatický přístup. Jsou situace, kdy:

Zároveň je důležité, aby se lidé tupě nespoléhali na to, že za ně AI udělá všechnu práci. Jistě, je to pohodlné, ale přílišné spoléhání se na stroj vede ke kognitivnímu úpadku.

Zavedení umělé inteligence ve firmě je také otázka nákladů. Používání AI nástrojů něco stojí, ať už si kupujete tokeny nebo pronajímáte GPU. Každá firma si musí rozmyslet, jestli se jí náklady na umělou inteligenci vyplácí a přináší zamýšlenou efektivitu.