Synonymem umělé inteligence je pro mnoho lidí ChatGPT nebo Claude, ale ve skutečnosti jsou možnosti používání AI mnohem bohatší. Ať už jste jednotlivec nebo firma, na výběr máte z mnoha možností, v různých cenových kategoriích.

Kolik stojí AI

Otázka, na kterou neexistuje jednoznačná odpověď. Umělá inteligence může být zadarmo, můžete platit 50 amerických dolarů za jeden milion tokenů, můžete si pronajmout GPU server, nebo si ho rovnou koupit.

Cena závisí na několika faktorech:

Uzavřené modely

Zjednodušeně se jedná o AI modely, které jsou pro uživatele černou skříňkou. Nevidíte dovnitř, nemůžete modely stáhnout, nemůžete upravit jejich parametry. Poskytovatel vám k nim nabízí pouze kontrolovaný přístup.

Nejznámějšími takovými modely jsou ChatGPT od OpenAI, Claude od Anthropicu nebo Gemini od Googlu, které většinou nabízí dvě možnosti účtování:

Měsíční předplatné bylo dlouhou dobu pro uživatele výhodné, ale v poslední době poskytovatelé veřejně deklarují svůj zájem přejít na platbu za spotřebu, tedy za tokeny.

Měsíční předplatné je totiž podle poskytovatelů dotované a díky tomu ztrátové. Původně bylo myšleno jako přechodný stav, který měl uživatele nalákat a zamknout v dané platformě. To se ale ukázalo jako neudržitelný byznys model a proto se teď AI platformy přiklánějí k platbě za tokeny.

Otevřené modely

Tyto modely zveřejňují parametry, které byly použity při trénování. Kdokoliv si může modely stáhnout, měnit a používat.

Otevřené modely (open-weight models) lze provozovat kdekoliv: v cloudu, na privátní síti nebo na počítači. Některé menší modely fungují dokonce na mobilních telefonech nebo IoT (Internet of Things) zařízeních.

Více o tom, proč se malé modely vyplatí, najdete v samostatném článku.

Většina z těchto modelů navíc používá typ licence, který umožňuje komerční využití. A jak ukazuje aktuální vývoj, kvalitativní mezera mezi uzavřenými a otevřenými modely se výrazně zmenšila.

Možnosti přístupu k AI

Jaké jsou konkrétní způsoby, jak AI provozovat? Níže jsou shrnuty ty nejčastější, od nejjednoduššího po nejnáročnější.

Platba za tokeny (API)

Nejrozšířenější model pro uživatele a firmy, které s AI teprve začínají. Registrujete se na platformě, dostanete API klíč a můžete začít LLM ihned používat.

OpenAI, Anthropic nebo Google nabízejí přístup přes API pro svoje modely. Další poskytovatelé, jako např. Amazon Bedrock, OpenRouter nebo Together AI, nabízejí kromě uzavřených i otevřené modely, které stojí typicky zlomek ceny uzavřených alternativ.

Platba za tokeny se vyplatí pokud s AI začínáte nebo pokud AI používáte na méně náročné případy. Když se spotřeba zvýší, může vás to vyjít draho. Pak je potřeba přejít na jiné způsoby provozu.

Výhody: nulové fixní náklady, okamžitý start, žádná infrastruktura.
Nevýhody: náklady rostou s objemem dotazů, data se posílají poskytovateli, závislost na třetí straně.

Pronájem modelu (dedikovaná instance)

Místo platby za spotřebované tokeny si pronajmete dedikovanou instanci modelu (provisioned throughput) s garantovaným výkonem. Platíte fixní částku měsíčně nebo ročně, bez ohledu na počet dotazů.

Tento model preferují firmy s předvídatelnou zátěží, pro které jsou tokeny při velkém objemu drahé.

Výhody: předvídatelné náklady, vyšší kontrola, stabilní výkon.
Nevýhody: vyšší fixní náklady, nutnost plánovat kapacity.

Pronájem GPU serveru

Pronajmete si server s grafickými kartami a na něm nainstalujete a provozujete otevřené modely.

Zachováváte si plnou kontrolu. Vybíráte model, nastavujete parametry, spravujete bezpečnost.

Výhody: neposíláte žádná data třetím stranám, možnost fine-tuningu, nezávislost na poskytovateli API.
Nevýhody: nutnost technických znalostí, odpovědnost za údržbu a aktualizace.

Vlastní infrastruktura

Nákup GPU serverů, nasazení on-premise, plná kontrola nad vším. Varianta pro velké firmy, regulované sektory nebo organizace s přísnými požadavky na datovou suverenitu.

Výhody: maximální bezpečnost, žádná závislost na třetí straně.
Nevýhody: vysoké kapitálové náklady, potřeba specializovaných týmů, delší cesta od nákupu k provozu.

Bezpečnost dat

Pokud provozujete modely jinde než na vlastní infrastruktuře, odesíláte data na servery, které nemáte pod kontrolou.

Uchovává poskytovatel vaše data? Dočasně? Trvale? To záleží na poskytovateli, na tom z které je země, nebo jaké jsou jeho právní povinnosti.

Pro uživatele, a to nejen ty firemní, je zásadní vědět:

Obecně platí jednoduché pravidlo: pokud chcete kontrolu nad svými daty, provozujte otevřené modely na vlastní infrastruktuře. Uzavřené modely jsou skvělé pro rychlý start, ale jakmile začnete používat citlivé údaje, interní know-how nebo regulované informace, platba za tokeny přestává být atraktivní.

Skryté náklady, na které si dejte pozor

Cena za tokeny nebo pronájem GPU tvoří jen část nákladů na využívání umělé inteligence. Při plánování AI infrastruktury započítejte i tyto položky:

Model sám o sobě není to hlavní. Důležitější jsou vstupní data, mantinely (harness) a rychlost zpracování. Více najdete v tomto článku.

Závěrem

Volba jak provozovat LLM určitě není rozhodnutí na celou věčnost. Záleží na tom, kde se zrovna v implementaci AI nacházíte.

Většina firem začíná jednoduše, s předplatným nebo tokeny, a postupně se posunuje k větší kontrole podle toho, jak rostou nároky na bezpečnost a potřeba předvídatelnosti nákladů.

Úspěšná implementace AI není ta, která používá nejdražší model. Je to ta, která dokáže najít správnou rovnováhu mezi bezpečností dat, provozními náklady a technickou dostupností.

Nejdřív data, až pak AI

15+ let seniorního nadhledu z odvětví, kde chyba stojí miliony – finance, logistika, energetika nebo automotive.

Už víte, že AI potřebujete, ale nejste si jistí, kde začít? Bezplatná konzultace.