Modeloni kërcënimet e një rrjedhe zhvillimi me AI

Zgjidhni një skenar të kufizuar

Filloni me një rrjedhë pune që njerëzit mund ta kuptojnë. Për shembull, një agjent lexon një issue, ndryshon një depo kodi, ekzekuton teste dhe hap një pull request. Përfshini sistemet që i mundësojnë këto veprime.

Renditni asetet që kanë rëndësi: kodin burimor, informacionin e klientëve, kredencialet, artefaktet e publikimit dhe disponueshmërinë e shërbimit. Identifikoni personat përgjegjës për to. Pastaj identifikoni njerëzit dhe sistemet që mund të lexojnë ose ndryshojnë secilin aset.

OWASP rekomandon modelimin e sistemit, identifikimin e kërcënimeve, zgjedhjen e masave dhe verifikimin e rezultatit. Përdoreni metodën herët dhe përditësojeni ndërsa sistemi ndryshon. Udhëzime për modelimin e kërcënimeve.

Vizatoni kufijtë e besimit

Për rrjedhën imagjinare nga issue te PR, vizatoni këto lidhje:

Issue → agent → repository → test runner → artifact store → deployment

Shtoni ofruesin e modelit dhe sistemin e ruajtjes së sekreteve. Shënoni ku përmbajtja vjen nga një burim më pak i besuar. Shënoni ku një identitet fiton një aftësi të re, si kalimi nga leximi i një issue te shkrimi në skedarët e depos së kodit.

Vetëm diagrami i aplikacionit nuk tregon të gjithë rrezikun e zhvillimit. Një bazë të dhënash prodhimi mund të jetë private ndërsa një punë CI ekspozon një kredencial. Përfshini mjediset e përkohshme dhe aksesin e mbështetjes kur ato ndikojnë në skenar.

Shkruani një rrugë konkrete dështimi

Shmangni shënime si «AI mund të jetë e pasigurt». Shkruani një aktor, një veprim, një aset të prekur dhe një pasojë. Përfshini kushtet e nevojshme që skenari të ndodhë.

Këta janë shembuj, jo një listë e plotë kërcënimesh. Të dhënat, mjetet dhe mjedisi juaj i funksionimit përcaktojnë skenarët përkatës.

Zgjidhni një masë me person përgjegjës

Jepuni përparësi pasojave dhe ekspozimit të besueshëm. Mos paraqitni një vlerësim numerik sikur të ofronte saktësi që nuk e keni. Regjistroni pasigurinë dhe evidencën që mund të ndryshojë përparësinë.

Një masë mund të heqë aftësinë e rrezikshme, të zvogëlojë kufijtë e saj, të shtojë një kontroll ose të pranojë një rrezik të mbetur të përcaktuar. Pranimi kërkon një person përgjegjës të autorizuar dhe një arsye. Ai nuk duhet të jetë përfundim i pashqyrtuar i një agjenti.

Kthejeni masën e zgjedhur në punë me një kusht pranimi të verifikueshëm. «Përmirësoni sigurinë e agjentit» është e vështirë të verifikohet. «Puna e testimit nuk mund ta lexojë sekretin e prodhimit» përcakton një kufi që mund të kontrollohet.

Rishqyrtoni pas ndryshimeve me rëndësi

Një lidhës, rrugë modeli, mjedis ose leje e re mund ta ndryshojë modelin e kërcënimeve. Shtojini këto ndryshime te kushtet që nxisin shqyrtimin. Përdorni edhe incidentet dhe vlerësimet e dështuara për të përditësuar supozimet.

Provoni ushtrimin e shqyrtimit të rrezikut për të ndryshuar të dhënat, autoritetin, audiencën dhe kushtet e rikuperimit të një skenari. Rezultati sugjeron pyetje. Ai nuk zëvendëson një model kërcënimesh për sistemin konkret dhe nuk e autorizon punën.