Je kód písaný s AI bezpečný? Ako ho kontrolujeme

Kód písaný s AI je bezpečný vtedy, keď ho pred nasadením skontroluje senior programátor, prejde automatickými testami a platia preň rovnaké bezpečnostné pravidlá ako pre ručne písaný kód. Samotný výstup AI asistenta bez kontroly bezpečný nie je, lebo AI píše presvedčivo aj vtedy, keď sa mýli.

V SaveIT píšeme kód s AI asistentmi každý deň. Rýchlosť je skutočná, ale nedostali sme ju zadarmo: zaplatili sme za ňu disciplínou pri kontrole. Tu je, ako to robíme a na čo si dať pozor, ak AI kód používate aj vy.

Prečo AI kód nie je automaticky bezpečný

AI asistent nemá zlé úmysly, ale nemá ani kontext. Nevie, kto má vo vašej aplikácii k čomu prístup, ktoré dáta sú citlivé a čo sa stane, keď niekto pošle nečakaný vstup. Dopĺňa to, čo vyzerá pravdepodobne. Preto sa v jeho výstupe opakujú podobné chyby:

• Chýbajúca kontrola oprávnení. Funkcia funguje, ale zavolať ju môže aj používateľ, ktorý by nemal, napríklad cudzí zákazník otvorí cudziu faktúru zmenou čísla v adrese.
• Neošetrený vstup. Rýchlo poskladaný databázový dopyt alebo výpis do HTML bez escapovania otvára dvere SQL injection a XSS.
• Tajomstvá v kóde. API kľúč alebo heslo vložené priamo do súboru, ktorý skončí v repozitári.
• Vymyslené alebo zastarané knižnice. AI občas navrhne balík, ktorý neexistuje, alebo verziu so známou zraniteľnosťou.
• Príliš široké nastavenia. CORS otvorený pre všetkých, vypnutá kontrola certifikátu „aby to fungovalo“, ladiaci režim na produkcii.
• Chyby, ktoré sa neprejavia hneď. Kód prejde na testovacích dátach a zlyhá pri súbežných požiadavkách alebo väčšom objeme.

Nič z toho nie je nové. Rovnaké chyby robia aj ľudia. Rozdiel je v tom, že AI ich vyrobí rýchlejšie a s istotou v hlase, takže bez kontroly sa dostanú do produkcie skôr.

Ako kontrolujeme kód, ktorý píšeme s AI

Náš princíp je jednoduchý: AI píše, senior rozhoduje a ručí. Do produkcie nejde nič, čo nevidel človek. Každá zmena prechádza rovnakými krokmi bez ohľadu na to, či ide o 15-minútovú úpravu alebo nový modul.

Krok	Čo sa deje	Kto
Zadanie	Senior pochopí, čo sa má zmeniť a čoho sa zmena dotkne.	senior
Návrh kódu	AI asistent navrhne zmenu, testy a úpravu dokumentácie.	AI pod dohľadom seniora
Review	Senior číta každý riadok rozdielu, nielen výsledok na obrazovke.	senior
Testy a CI	Automatické testy a kontroly bežia pri každej zmene.	CI
Nasadenie	Zmena ide na produkciu a overíme, že naozaj funguje.	senior

Na čo sa senior pri review pozerá

Review nie je „prebehnúť očami“. Pri kóde z AI sa sústredíme hlavne na miesta, kde AI najčastejšie chybuje: kto smie danú akciu vykonať, odkiaľ prichádzajú dáta a či sú ošetrené, čo sa stane pri chybe alebo výpadku druhej strany a či zmena nerobí viac, než bolo zadané. Posledný bod je dôležitejší, než vyzerá. AI rada „pomôže“ a pri oprave jednej veci prepíše aj susednú, ktorú nikto nepotreboval meniť.

Testy a CI ako poistka

AI je veľmi dobrá v písaní testov, a to je jej najlepšie bezpečnostné využitie. Necháme ju pripraviť aj nepríjemné prípady: prázdny vstup, cudzí používateľ, neplatné dáta. Senior skontroluje, že test naozaj overuje to, čo má, a nie len to, čo kód práve robí. Testy potom pri každej zmene spúšťa CI, takže sa staré chyby nevracajú.

Prístupy a tajomstvá

Heslá a kľúče patria do konfigurácie prostredia, nie do kódu. AI asistent pracuje nad kódom, nie nad produkčnými dátami vašich zákazníkov. Ak úloha potrebuje dáta, pracujeme s minimom, ktoré na ňu stačí.

Kde AI bezpečnosť naopak zlepšuje

Bolo by nefér hovoriť len o rizikách. Pri dobrom vedení AI asistent bezpečnosti aj pomáha. Nemá zlý deň a neunaví sa pri dvadsiatom formulári, takže konzistentne doplní validáciu tam, kde by ju unavený človek vynechal. Vie rýchlo prejsť veľký kus cudzieho kódu a upozorniť na podozrivé miesta, ktoré by sme inak hľadali hodiny. A keďže písanie testov je s AI lacné, testov je viac, nie menej.

V praxi to znamená, že projekt, na ktorom pracuje senior s AI, máva lepšie pokrytie testami a menej zabudnutých okrajových prípadov, než mávali podobné projekty písané ručne pod tlakom termínu. Podmienka je stále tá istá: niekto musí výsledok čítať a rozumieť mu.

Projekty z vibe codingu: najväčšie riziko

Najviac bezpečnostných problémov nevidíme v kóde, ktorý píše skúsený programátor s AI, ale v aplikáciách, ktoré niekto poskladal cez AI nástroj bez programátorského zázemia. Fungujú, vyzerajú dobre, a pritom majú otvorenú administráciu, kľúče v prehliadači alebo databázu bez kontroly prístupu. To nie je chyba autora, len AI nástroj nevie, čo nevie. Ak máte takú aplikáciu a chcete ju pustiť medzi zákazníkov, pozrite sa na službu AI kód do produkcie, kde ju senior prejde, opraví a pripraví na prevádzku.

Ako si overiť dodávateľa, ktorý píše s AI

Dnes s AI píše takmer každý. Nepýtajte sa preto, či ju dodávateľ používa, ale ako kontroluje výsledok:

• Kto číta každú zmenu pred nasadením a ručí za ňu?
• Má projekt automatické testy a bežia pri každej zmene?
• Kde sú uložené heslá a kľúče a kto k nim má prístup?
• Dostanete prístup k repozitáru a histórii zmien?
• Čo sa stane, keď sa po nasadení objaví chyba?

Ak na tieto otázky dostanete vágnu odpoveď, je to signál bez ohľadu na to, či kód píše AI alebo človek. Ak si nie ste istí stavom existujúceho systému, pomôže audit kódu.

Bezpečnosť nie je len kód

Aj dokonale napísaná aplikácia je zraniteľná, ak beží na neaktualizovanom serveri bez záloh. Preto k bezpečnosti patrí aj prevádzka: aktualizácie, oddelené prostredia, šifrované zálohy a overená obnova. Viac v článku Zálohovanie a bezpečnosť firemných dát a v službe hosting a DevOps.

Zhrnutie

AI nerobí kód bezpečnejším ani nebezpečnejším sama od seba. Robí ho rýchlejším, a s rýchlosťou rastie aj potreba kontroly. Ak kontrola existuje, dostanete kvalitný kód skôr a lacnejšie. U nás platíte 38 € / hod bez DPH za seniora, ktorý s AI pracuje a za výsledok ručí. Viac o tom, ako to robíme, nájdete v službe vývoj softvéru s AI.

Máte kód z AI a nie ste si istí, či je bezpečný? Napíšte nám, senior sa naň pozrie.