Koosta AI arendustöövoo ohumudel

Vali piiratud stsenaarium

Alusta ühest töövoost, millest inimesed aru saavad. Näiteks agent loeb tööülesannet, muudab koodihoidlat, käivitab testid ja avab pull request’i. Lisa süsteemid, mis need tegevused võimalikuks teevad.

Loetle olulised varad: lähtekood, klienditeave, autentimisandmed, väljalaske artefaktid ja teenuse kättesaadavus. Määra nende vastutajad. Seejärel tuvasta inimesed ja süsteemid, kes saavad iga vara lugeda või muuta.

OWASP soovitab süsteemi modelleerida, ohud tuvastada, vastused valida ja tulemust kontrollida. Kasuta meetodit varakult ning uuenda mudelit süsteemi muutudes. Ohumudeli koostamise juhend.

Joonista usalduspiirid

Väljamõeldud tööülesandest PR-ini kulgeva töövoo jaoks joonista järgmised seosed:

Issue → agent → repository → test runner → artifact store → deployment

Lisa mudelipakkuja ja saladuste hoidla. Märgi kohad, kus sisu tuleb vähem usaldatud allikast. Märgi, kus identiteet saab uue võimekuse, näiteks liigub tööülesande lugemiselt koodihoidla failide kirjutamisele.

Ainult rakenduse diagramm ei näita kogu arendusriski. Tootmisandmebaas võib olla privaatne, kuid CI-töö võib avaldada autentimisandme. Lisa ajutised keskkonnad ja toe juurdepääs, kui need stsenaariumi mõjutavad.

Kirjuta konkreetne tõrketee

Väldi kirjeid nagu „AI võib olla ohtlik“. Kirjuta tegutseja, tegevus, mõjutatud vara ja tagajärg. Lisa stsenaariumi toimumiseks vajalikud tingimused.

Need on näited, mitte täielik ohuloend. Sinu andmed, tööriistad ja käituskeskkond määravad asjakohased stsenaariumid.

Vali vastutajaga reaktsioon

Sea esikohale tagajärjed ja usutav ohustatus. Ära esita arvulist skoori täpsusena, mida sul pole. Pane kirja ebakindlus ja tõendid, mis võiksid prioriteeti muuta.

Reaktsioon võib eemaldada riskantse võimekuse, vähendada selle ulatust, lisada kaitsemeetme või aktsepteerida määratud jääkriski. Aktsepteerimine vajab volitatud vastutajat ja põhjust. See ei tohi olla agendi üle vaatamata järeldus.

Muuda valitud reaktsioon tööks, millel on vaadeldav vastuvõtutingimus. „Paranda agendi turvalisust“ on raske kontrollida. „Testitöö ei saa tootmiskeskkonna saladust lugeda“ määrab kontrollitava piiri.

Vaata mudel pärast olulisi muutusi üle

Uus konnektor, mudelipäringute teekond, keskkond või õigus võib ohumudelit muuta. Lisa need muutused ülevaatuse käivitajate hulka. Kasuta eelduste uuendamiseks ka intsidente ja ebaõnnestunud hindamisi.

Proovi riskiülevaatuse harjutust, et muuta stsenaariumi andmeid, volitusi, kasutajaskonda ja taastamistingimusi. Tulemus pakub küsimusi. See ei asenda süsteemipõhist ohumudelit ega anna tööks luba.