Otázky a odpovede

Tri veci, vrstvené. AI infraštruktúra je platforma pod každou AI funkciou — routovanie modelov, retrieval, evaluácia, observabilita, kontrola nákladov. AI agenti sú systémy, ktoré konajú vo vašich nástrojoch s riadnymi oprávneniami a ľudským dohľadom. AI chatboty na webových stránkach sú zákaznícka verzia, po anglicky, česky a slovensky, merané tak, aby ste dokázali, či pomáhajú.

Pozrite sa, kde ste zaseknutí. Ak pilot funguje, ale nikto ho nedokáže nasadiť ani merať, potrebujete infraštruktúru. Ak model prácu nezvládne, pretože sa musí dotknúť reálnych systémov, potrebujete agentov. Ak návštevníci posielajú stále tie isté osem otázok, potrebujete webového asistenta. Ak si nie ste istí, presne na to je audit.

Zameraný webový asistent začína okolo 4 900 €. Prototyp agenta v shadow móde je 6 500 – 15 000 €. Práca na platforme a infraštruktúre beží na 850 – 1 100 € za deň. Priebežná prevádzka je 1 200 – 3 500 € mesačne. Celé rozsahy sú na cenníku.

Audit 1–2 týždne. Základ 2–4 týždne. Prvá produkčná funkcia 3–8 týždňov podľa rozsahu. Rýchlosť je funkciou toho, ako sú čisté vaše dáta a koľko schválení release potrebuje, nie toho, ako rýchlo píšem.

Ten, ktorý dosahuje najlepšie výsledky na vašej eval sade za prijateľné náklady — čo zvyčajne nie je zistiteľné skôr, než eval sadu postavíte. Moja predvolba je Anthropic pre komplexné uvažovanie, OpenAI tam, kde potrebujete najširší ekosystém, a menšie modely pre klasifikáciu a routovanie.

Zvyčajne nie. Hostované API plus dobre postavená brána sú lacnejšie a rýchlejšie na začiatok takmer pre každý firemný prípad použitia. Self-hosting sa stane správnou odpoveďou, keď dáta nesmú opustiť sieť, keď máte stabilne vysoký objem, alebo keď konkrétny open model merateľne porazí hostované modely na vašej záťaži.

Retrieval pre čokoľvek, čo sa mení; fine-tuning pre správanie, štýl a formát. Fine-tuning nenaučí model vašu aktualizovanú politiku vrátenia peňazí. Dlhší argument je v RAG vs fine-tuning.

Pri podmienkach pre podniky od Anthropic, OpenAI a Google sa vaše dáta predvolene nepoužívajú na trénovanie. Je to zmluvná vec a postarám sa, aby konkrétna úroveň, ktorú podpisujete, zodpovedala konkrétnym sľubom, ktoré potrebujete. Ak potrebujete istotu nad rámec zmluvy, odpoveďou je self-hosted inferencia.

Áno a preferujem to. Python, Java, .NET, čokoľvek — AI vrstva sa prispôsobí vášmu tímu, nie naopak. Nebudem prepisovať funkčnú infraštruktúru podľa svojich preferencií.

Musí, aby bola užitočná — ale návrh to riadi. Dáta zostávajú vo vašej infraštruktúre, cestujú šifrovane, maskujú sa na hranici, kde treba, a nezapisujú sa do logov tretích strán. Prístup k znalostnej základni sa filtruje na používateľa, v čase dopytu, s vašou vlastnou autorizáciou.

Môže byť, s premyslenou prácou: žiadne sledovanie tretími stranami, súhlas pred ukladaním osobných údajov, krátka retencia prepisov, nezaznamenávanie IP adries, sprostredkovatelia uvedení vo vašich zásadách ochrany súkromia a jasná poznámka, že asistent je automatizovaný systém. Poviem vám aj, ktoré časti sa úprimne urobiť v súlade nedajú.

Tým, že obsahu a promptom neveríme predvolene. Nedôveryhodný text je izolovaný od inštrukcií, každý nástroj má vlastné minimálne oprávnenia, výstupy sa validujú a v CI beží adversariálna testovacia sada. Presvedčenie, že prompt je chránený proti injekcii, je chyba, ktorej sa snažím najviac predísť.

Áno. Vzájomné NDA pred akýmkoľvek detailom systému a som zvyknutý na bezpečnostné dotazníky, DPA a zmluvy o spracovaní dát. Kde sú prísne požiadavky, viem dodávať v plne on-premise prostredí.

Takmer vždy. Na diaľku v rámci EÚ je predvolba; osobne v Bratislave alebo vo Viedni podľa dohody. Spolupracoval som s tímami v USA a Ázii tak, že som sa opieral o písomné aktualizácie a asynchrónne rozhodnutia.

To je môj preferovaný model. Pracujem vo vašich repozitároch a vašom revíznom procese a po sebe nechávam dokumentáciu a testy, nie čiernu skrinku. Viaceré moje spolupráce skončili preto, že tím už nepotreboval.

Potom sa to zistí v audite, za pevnú sadzbu, a plán si necháte. Vo fázach dodávky sú kritériá akceptácie napísané skôr, než sa začne pracovať, takže „nefunguje to" je definovaný rozhovor, nie nezhoda.

Anglicky, česky a slovensky — pre komunikáciu, dokumentáciu a produkty. Každý viacjazyčný systém, ktorý staviam, je navrhnutý pre všetky tri od začiatku, vrátane samostatných eval sád pre každý jazyk.