Vaša faktúra za AWS alebo Azure v poslednom kvartáli stúpala exponenciálne, hoci počet používateľov zostal stabilný, a zistili ste, že platíte za „rezervované inštancie“, ktoré reálne nevyužívate.
Tento moment – bod, kedy sa flexibilita cloudu mení na finančnú pascu – je presne ten dôvod, prečo dnes mnohé firmy migrujú späť k vlastnej infraštruktúre (tzv. cloud repatriation).
Ako Richard z ezin.sk, ktorý sa venuje AI infraštruktúre a TCO (celkovým nákladom na vlastníctvo), vám v tomto článku nebudem predávať víziu „nekonečnej škálovateľnosti“. Budeme hovoriť o peniazoch, VRAM, elektrine a GDPR.
Cloud: Kedy je to jediná logická voľba?
Cloud (cloud computing / cloudové výpočty) nie je produkt, ale finančný model. Mení kapitálové výdavky (CAPEX) na prevádzkové náklady (OPEX). To je ideálne v troch konkrétnych scenároch:
- Extrémna volatilita nárokov: Ak váš systém v 90 % času beží na 5 % kapacity, ale počas jedného dňa v mesiaci potrebuje 500 % výkonu (napríklad pri spracovaní mesačných reportov alebo sezónnych špičkách), vlastný hardvér by ste museli dimenzovať na maximum. To znamená, že zvyšok času by ste platili za prúd a chladenie železa, ktoré len „spí“.
- Rýchly prototyping (Time-to-Market): Ak potrebujete nasadiť novú AI službu založenú na modeli GPT-4 cez Azure OpenAI API, nepotrebujete kupovať H100 GPU za desiatky tisíc eur. Potrebujete len API kľúč a môžete validovať biznis hypotézu za pár centov za tisíc tokenov.
- Absencia IT personálu: Správa fyzického servera znamená riešiť RAID polia, aktualizácie firmvéru, chladenie a elektrické zálohy (UPS). Ak nemáte vlastného systémového administrátora, cloud vám tieto vrstvy abstrahuje.
Kedy je cloud finančnou pascou? (The Cloud Tax)
Existuje bod, ktorý nazývam „bod zlomu rentability“. Keď je vaše pracovné zaťaženie (workload) predvídateľné a stabilné, cloud sa stáva najdrahším možným riešením.
Problém s AI a GPU v cloude
Nasadenie veľkých jazykových modelov (LLM) v cloude je momentálne najrizikovejšou časťou TCO. Prenájom inštancie s A100 (80GB VRAM) v cloude môže stáť od 2 € do 4 € za hodinu. Pri nepretržitej prevádzke (24/7) to predstavuje približne 1 500 € až 2 900 € mesačne za jednu kartu.
Ak to porovnáme s nákupom vlastného servera s RTX 6000 Ada alebo H100, investícia sa vráti (ROI) už po 8 až 14 mesiacoch. Všetko po tomto období je čistý zisk vo forme ušetrených prevádzkových nákladov.
Skryté náklady, ktoré vám predajca nepovie:
- Poplatky za odvod dát (Egress fees): Vstup dát do cloudu je zadarmo, ale vyťahovanie dát von z cloudu do vašej firmy môže stáť desiatky až stovky eur mesačne pri veľkých databázach.
- Závislosť od dodávateľa (Vendor lock-in): Ak využívate špecifické služby ako AWS Lambda alebo DynamoDB, migrácia k inému poskytovateľovi bude vyžadovať prepísanie časti kódu aplikácie.
- Nadmerné dimenzovanie (Overprovisioning): Nastavíte si „automatické škálovanie“, ale kvôli zle nastaveným limitom vám cloud spustí 10 inštancií navyše, ktoré vyžerú váš rozpočet za jeden víkend.
Porovnanie: Vlastný hardvér vs. Cloud (AI Workload)
Pre potreby ilustrácie uvažujme nasadenie lokálneho modelu Llama 3 (70B) pre internú znalostnú bázu (knowledge base) firmy.
| Parametre | Self-hosted (Vlastný server) | Managed Cloud (napr. Azure/AWS) |
|---|---|---|
| Počiatočná investícia | Vysoká (CAPEX: 10k – 30k €) | Nízka (OPEX: 0 €) |
| Mesačné náklady | Nízke (elektrina, chladenie, servis) | Vysoké (podľa spotreby/hodiny) |
| Kontrola nad dátami | Absolútna (lokálne na disku) | Závislosť od zmluvy a regiónu (GDPR) |
| Škálovateľnosť | Pomalá (treba kúpiť nový hardvér) | Okamžitá (jedným kliknutím) |
| Bezpečnosť | Vlastná zodpovednosť (firewall, fyzický prístup) | Zodpovednosť poskytovateľa (shared responsibility model) |
Bezpečnostný a regulačný aspekt: GDPR a EU AI Act
Pre firmy pôsobiace v EÚ je cloud komplikáciou. Aj keď AWS či Azure ponúkajú regióny vo Frankfurte alebo Írsku, stále existuje riziko prístupu k dátam z USA (podľa zákona CLOUD Act).
Ak pracujete s citlivými osobnými údajmi klientov alebo obchodným tajomstvom, self-hosted AI (lokálne nasadenie cez Ollama alebo vLLM) je jediným spôsobom, ako mať 100 % garanciu, že vaše dáta nebudú použité na dotrénovanie modelov poskytovateľa. V kontexte nadchádzajúceho EU AI Act (zákona EÚ o umelej inteligencii) bude transparentnosť a kontrola nad dátami kľúčovým faktorom pre dodržiavanie predpisov (compliance).
Richardov biznis verdikt: kedy do cloudu ísť a kedy sa mu vyhnúť
Výber medzi cloudom a vlastným serverom nie je otázkou technológie, ale matematiky a rizika.
Choďte do cloudu, ak: * Ste v ladiacom štádiu (MVP), testujete hypotézu a potrebujete rýchlosť. * Máte extrémne výkyvy v zaťažení (sezónnosť). * Nemáte IT personál na správu fyzickej infraštruktúry.
Kúpte si vlastné železo, ak: * Vaše pracovné zaťaženie je stabilné a predvídateľné (bežíte 24/7). * Nasadzujete LLM modely s vysokou intenzitou výpočtov (GPU inferencia), kde TCO v cloude za rok prevýši cenu servera. * Máte striktné požiadavky na GDPR a bezpečnosť dát, ktoré nezverujete tretej strane.
Moja odporúčaná stratégia: Hybridný model. Udržujte kritické dáta a stabilné AI inferenčné modely na vlastnom hardvéri (edge computing), zatiaľ čo pre špičky v prevádzke (traffic) alebo experimentovanie s najnovšími proprietárnymi modelmi (ako GPT-4o) využívajte cloudové API. To je momentálne ideálny bod medzi kontrolou a flexibilitou.
