Meðhöndlaðu sótt efni sem ótraust inntak

Finndu hvar gögn verða að fyrirmælum

Forritunaragent les fleira en beiðni notandans. Hann getur skoðað verkefnafærslur, skrár kóðasafns, skjöl hugbúnaðarpakka, leitarniðurstöður og svör verkfæra. Sumt af þessu efni getur innihaldið fyrirmæli frá öðrum.

Prompt injection verður þegar slíkt efni beinir líkaninu frá heimilaða verkefninu. Óbein prompt injection kemur gegnum sótta heimild, ekki beina beiðni notandans. OWASP lýsir efni kóðasafna og úttaki verkfæra sem viðeigandi inngönguleiðum. Lestu leiðbeiningar um varnir.

Skoðum ímyndað viðhaldsverkefni. Notandinn biður agent að laga síu í skýrslu og keyra áskilin próf. Sótt README-skrá segir að prófin séu úrelt og biður agent að hlaða upp stillingaskrá. README-skráin getur útskýrt verkefnið. Hún getur ekki heimilað að sleppa athugunum notandans eða senda skrár annað.

Kortleggðu mögulegar afleiðingar

Sami villandi textinn hefur ólíkar afleiðingar eftir umhverfi. Samantektarkerfi með lesaðgang einan gæti skilað rangri samantekt. Agent með ritheimild í kóðasafni getur breytt kóða. Agent með aðgang að leyndarmálum og útleið á netið getur afhjúpað upplýsingar.

Skoðaðu hvaða aðgerðir eru í boði áður en þú ákveður hvaða varnir skipta máli. Skráðu viðkvæm tilföng, staði þar sem hægt er að skrifa og ytri áfangastaði. Taktu með tengingar sem bætt var við eftir fyrstu uppsetningu. Nýtt verkfæri getur aukið áhrif veikleika sem þegar er til staðar.

Agent getur líka flutt villandi efni yfir á seinna stig. Hann gæti til dæmis afritað ótraust fyrirmæli inn í verkefnislýsingu sem hann býr til. Næsti agent má ekki líta á þá lýsingu sem stefnu sem hafi verið samþykkt sérstaklega.

Notaðu nokkrar varnir með ólík hlutverk

Haltu traustum verkefnisfyrirmælum aðskildum frá sóttum gögnum í hönnun forritsins. Sýndu uppruna sótts efnis. Þessi skref bæta túlkun en mynda ekki fullkomin öryggismörk.

Framfylgdu aðgangsheimildum að tilföngum í framkvæmdarkerfinu. Takmarkaðu áfangastaði viðkvæmra gagna. Krefstu viðeigandi ákvörðunar fyrir aðgerðir sem geta haft verulegar afleiðingar. Athugaðu að fyrirhuguð aðgerð samræmist heimilaða verkefninu og tilfanginu sem heimildin nær til.

Síur og annað líkan geta hjálpað til við að greina grunsamlegt efni. Þau geta líka misst af árásum eða lokað á réttmætar upplýsingar. Láttu mat líkans á eigin vissu ekki koma í stað heimildaprófunar sem fylgir skýrum reglum. OWASP tekur sérstaklega fram takmarkanir þess að treysta eingöngu á fyrirmæli eða sótt efni. Lestu áhættulýsinguna.

Prófaðu verkferlið án raunverulegrar útsetningar

Notaðu tímabundið kóðasafn og ímyndaðar skrár. Láttu matið hvorki fá aðgangsupplýsingar fyrir rekstrarumhverfi né ótakmarkaðar ritheimildir í ytri kerfi. Settu inn skaðlaus fyrirmæli sem stangast á við verkefnið, svo sem að sleppa áskilinni athugun.

Fylgstu bæði með svari líkansins og raunverulegum aðgerðum verkfæranna. Skilaboð á borð við „ég hunsaði fyrirmælin“ nægja ekki ef athuguninni var samt sleppt. Skráðu verkefnið, prófunargögnin með innskotnu fyrirmælunum, heimiluð verkfæri og niðurstöðuna sem sást.

Endurtaktu dæmigerð tilvik eftir breytingar á fyrirmælum, líkönum, tengingum eða heimildum. Dæmi sem var stöðvað veitir staðfestingargögn fyrir það tilvik en sannar ekki vörn gegn öllum slíkum árásum. Ef próf stenst ekki skaltu draga úr mögulegum afleiðingum á meðan þú lagar undirliggjandi verkferli.