Modelirajte grožnje razvojnemu delovnemu toku z AI

Izberite omejen scenarij

Začnite z enim delovnim tokom, ki ga ljudje lahko razumejo. Agent na primer prebere zahtevek, uredi repozitorij, izvede teste in odpre pull request. Vključite sisteme, ki omogočajo ta dejanja.

Navedite pomembna sredstva: izvorno kodo, informacije o strankah, poverilnice, artefakte izdaje in razpoložljivost storitve. Določite odgovorne zanje. Nato določite ljudi in sisteme, ki lahko vsako sredstvo berejo ali spreminjajo.

OWASP priporoča modeliranje sistema, prepoznavanje groženj, izbiro odzivov in preverjanje rezultata. Metodo uporabite zgodaj in model posodabljajte ob spremembah sistema. Smernice za modeliranje groženj.

Narišite meje zaupanja

Za izmišljeni delovni tok od zahtevka do PR-ja narišite te povezave:

Zahtevek → agent → repozitorij → izvajalnik testov → shramba artefaktov → namestitev

Dodajte ponudnika modela in shrambo skrivnosti. Označite, kje vsebina prihaja iz manj zaupanja vrednega vira. Označite, kje identiteta pridobi novo zmožnost, na primer prehod od branja zahtevka do pisanja datotek repozitorija.

Sam diagram aplikacije ne pokaže celotnega razvojnega tveganja. Produkcijska podatkovna zbirka je lahko zasebna, medtem ko opravilo CI izpostavi poverilnico. Vključite začasna okolja in dostop podpore, če vplivajo na scenarij.

Napišite konkreten potek napake

Izognite se zapisom, kot je »AI morda ni varen«. Napišite akterja, dejanje, prizadeto sredstvo in posledico. Vključite pogoje, potrebne za nastanek scenarija.

To so primeri in ne popoln seznam groženj. Relevantne scenarije določajo vaši podatki, orodja in okolje delovanja.

Izberite odziv z odgovorno osebo

Prednost določite glede na posledice in verjetno izpostavljenost. Številčne ocene ne prikazujte kot natančnosti, ki je nimate. Zabeležite negotovost in dokaze, ki bi lahko spremenili prednost.

Odziv lahko odstrani tvegano zmožnost, zmanjša njen obseg, doda nadzorni ukrep ali sprejme določeno preostalo tveganje. Sprejetje potrebuje pooblaščeno odgovorno osebo in razlog. Ne sme biti agentov nepregledani sklep.

Izbrani odziv pretvorite v delo s preverljivim pogojem sprejetja. »Izboljšajte varnost agenta« je težko preveriti. »Testno opravilo ne more prebrati produkcijske skrivnosti« določa mejo, ki jo je mogoče preveriti.

Pregled ponovite po pomembnih spremembah

Nov povezovalnik, pot do modela, okolje ali dovoljenje lahko spremeni model groženj. Te spremembe vključite med sprožilce pregleda. Za posodabljanje predpostavk uporabite tudi incidente in neuspešna ocenjevanja.

V vaji pregleda tveganj spreminjajte podatke, pooblastila, uporabnike in pogoje obnove scenarija. Rezultat predlaga vprašanja. Ne nadomesti modela groženj za določen sistem in ne daje dovoljenja za delo.