Pot 01Lekcija 2 / 6

Modeli, kontekst in napačni odgovori

Ugotovite, kako lahko manjkajoče informacije povzročijo napačen odgovor tudi pri zmogljivem modelu.

Osnove8 minPregledano

Izdajatelj Kako pišemo

Preverite razumevanjeModel frontier priporoči funkcijo, ki je vaša nameščena knjižnica ne vsebuje. Kaj morate storiti?Opravite vajo
Model frontier priporoči funkcijo, ki je vaša nameščena knjižnica ne vsebuje. Kaj morate storiti?

Kaj se boste naučili

  • Ločite zmogljivost modela od dostopa do aktualnih dejstev.
  • Prepoznajte, kdaj manjkajoča omejitev spremeni sicer verjeten odgovor.
  • Zahtevajte dokazila, ki jih lahko pregledate.

Ločite zmogljivost od razpoložljivih informacij

Jezikovni model uporablja naučene vzorce in informacije, ki jih dobi med nalogo. Sodobni modeli so sposobni obsežnega sklepanja in koristnega dela s programsko opremo. Lahko pa ustvarijo tudi podroben odgovor, ki temelji na napačni predpostavki.

»Model frontier« opisuje spreminjajočo se raven zmogljivosti. Izraz ne dokazuje, da je model prebral vaš repozitorij. Ne pove, ali model pozna različice vaših odvisnosti ali nenapisana poslovna pravila. Ta dejstva mora zagotoviti okolje naloge.

Agent z ustreznimi orodji lahko pridobi informacije. Klepet brez dostopa ne more pregledati repozitorija. Če je odgovor videti napačen, zastavite dve vprašanji. Ali model lahko reši težavo s pravilnimi informacijami? Ali je model te informacije dobil?

Pri prvi težavi lahko pomaga drug model. Drugo lahko odpravi posredovanje manjkajočega pravila ali preverjanje odvisnosti.

Kontekst so informacije, ki so na voljo za trenutni odgovor. Vključuje navodila, priložene datoteke, ustrezen pogovor in rezultate orodij. Izdelki te informacije izbirajo in hranijo na različne načine. Lahko tudi povzamejo prejšnjo vsebino.

Ne predpostavljajte, da model prebere vsako datoteko v naloženi mapi. Ne predpostavljajte, da začetno navodilo ostane na voljo ves čas dolge seje. Orodje prosite, naj navede datoteke in navodila, ki jih je uporabilo.

Več konteksta ne izboljša vedno odgovora. Aktualna arhitekturna odločitev lahko pomaga bolj kot nepovezane izvorne datoteke. Zastarel vodič za migracijo lahko povzroči napačen odgovor, ker je videti merodajen.

Oglejte si izmišljeno funkcijo za nastavitve uporabniškega računa. Priložite pot zahteve, vmesno programsko opremo za avtorizacijo, ustrezni podatkovni model in obstoječi test. Dodajte določeno omejitev: »Član lahko spremeni svoje prikazno ime. Član ne more spremeniti svoje vloge v organizaciji.« Model ima zdaj izrecno pravilo, ki ga mora ohraniti.

Preverite trditve v pojasnilu

Odgovor lahko trdi, da je končna točka varna, ker vmesna programska oprema preverja lastništvo. Preverite vsak del te trditve.

  1. Preverite, ali končna točka uporablja navedeno vmesno programsko opremo.
  2. Preverite, ali ta preverja lastništvo in ne samo istovetnosti.
  3. Ugotovite vir uporabniške identitete.
  4. Izvedite negativen test kot drug uporabnik.

Sklic na repozitorij pove, kje iskati. Ne dokazuje, da se pojasnilo ujema s kodo.

Enako metodo uporabite pri priporočilu za API. Ustvarjena koda lahko kliče metodo, ki je nameščeni paket ne izvaža. Pred zamenjavo odvisnosti preverite različico paketa in uradno dokumentacijo. Neutemeljena predpostavka bi sicer lahko povzročila nepotrebno migracijo.

Negotovost pretvorite v preverjanje

»Bodite natančni« ni načrt preverjanja. Določite predpostavko, zahtevana dokazila in posledico napačnega rezultata.

Na primer: »Za to končno točko še nismo preverili izolacije med najemniki. Preglejte obdelovalnik zahtev. Dodajte test, v katerem uporabnik drugega najemnika zahteva isti zapis.« To navodilo agentu določi konkretno preiskavo in opazen rezultat.

Pri vprašanjih o izvedbi preglejte dejansko različico sistema. Dokument lahko opisuje predvideno delovanje. Pregled kode in testi pomagajo ugotoviti trenutno delovanje. Če se opis in dejansko delovanje ne ujemata, zabeležite razliko, dokler je odgovorna oseba ne razreši. Ne izberite neopazno priročnejšega odgovora.

Vodje lahko uporabijo to metodo, ne da bi prebrali vsako spremembo kode. Vprašajte, katere predpostavke je ekipa preverila. Določite še odprte predpostavke in osebe, odgovorne zanje. Te informacije odločitev o izdaji podprejo bolj neposredno kot ime modela.

Opravite vajo

Izberite majhno funkcijo, ki jo razumete. Uporabite kodo brez občutljivih informacij. 1. Odobreno orodje AI prosite, naj pojasni funkcijo. 2. Dodajte kodo, ki kliče funkcijo, in en neuspešen test. 3. Orodje prosite, naj popravi pojasnilo. 4. Zabeležite spremenjeno trditev in dokaze, zaradi katerih se je spremenila. 5. Zabeležite morebitno preostalo negotovost.

Prenesi delovni list (Markdown)
Preverite razumevanje ↑

Nadaljujte učenje

Viri in nadaljnje branje

Povezano gradivo podjetja Taiga

← Prejšnja lekcija: Vibe coding: uporaba in omejitve