Uhkamallinna AI-kehityksen työnkulku

Valitse rajattu tilanne

Aloita ymmärrettävästä työnkulusta. Agentti esimerkiksi lukee issuen, muokkaa repositorya, ajaa testit ja avaa PR:n. Ota mukaan järjestelmät, jotka mahdollistavat nämä toimet.

Listaa suojattavat asiat: lähdekoodi, asiakastieto, credentialit, julkaisuartefaktit ja palvelun saatavuus. Nimeä omistajat. Selvitä sitten, ketkä ihmiset ja järjestelmät voivat lukea tai muuttaa niitä.

OWASP suosittelee järjestelmän kuvaamista, uhkien tunnistamista, vastatoimien valintaa ja tuloksen tarkistamista. Käytä menetelmää aikaisin ja päivitä mallia järjestelmän muuttuessa. Uhkamallinnuksen ohje.

Piirrä luottamusrajat

Piirrä kuvitteelliselle issue-to-PR-työnkululle nämä yhteydet:

Issue → agentti → repository → test runner → artefaktivarasto → deployment

Lisää mallipalvelu ja secrets-palvelu. Merkitse vähemmän luotetusta lähteestä tuleva sisältö. Merkitse myös kohdat, joissa identiteetti saa uuden valtuuden, kuten siirtyy issuen lukemisesta tiedostojen kirjoittamiseen.

Pelkkä sovelluskaavio ei näytä kehitystyön kaikkia riskejä. Tuotantotietokanta voi olla yksityinen, vaikka CI-job paljastaisi credentialin. Huomioi väliaikaiset ympäristöt ja tukihenkilöiden pääsy, jos ne vaikuttavat tilanteeseen.

Kirjoita konkreettinen virhepolku

Vältä kirjauksia kuten ”AI voi olla vaarallinen”. Kirjoita toimija, teko, suojattava asia ja seuraus. Lisää tilanteen toteutumiseen tarvittavat ehdot.

Nämä ovat esimerkkejä, eivät täydellinen uhkalista. Tiedot, työkalut ja käyttöympäristö määrittävät olennaiset tilanteet.

Valitse vastatoimi ja omistaja

Priorisoi seurauksen ja uskottavan altistuksen perusteella. Älä esitä numeerista pistemäärää tarkkuutena, jota ei ole. Kirjaa epävarmuus ja näyttö, joka voisi muuttaa prioriteettia.

Vastatoimi voi poistaa kyvykkyyden, rajata sitä, lisätä kontrollin tai hyväksyä määritellyn jäännösriskin. Hyväksyntä tarvitsee valtuutetun omistajan ja perusteen. Agentin tarkastamaton johtopäätös ei riitä.

Tee vastatoimesta tehtävä, jolla on havaittava hyväksymisehto. ”Paranna agentin tietoturvaa” on vaikea tarkistaa. ”Test job ei voi lukea tuotantosalaisuutta” määrittää testattavan rajan.

Tarkista olennaisten muutosten jälkeen

Uusi connector, mallireitti, ympäristö tai valtuus voi muuttaa uhkamallia. Lisää ne tarkistuksen käynnistäviin muutoksiin. Päivitä oletuksia myös häiriöiden ja epäonnistuneiden arviointien perusteella.

Riskien arviointiharjoituksessa voit muuttaa tietoja, valtuuksia, käyttäjäjoukkoa ja palautumista. Tulos ehdottaa kysymyksiä. Se ei korvaa järjestelmäkohtaista uhkamallia tai anna lupaa työn suorittamiseen.