AI-podprto delo z znanjem

Povzetek

Delovni tokovi na podlagi specifikacij niso omejeni na programsko inženirstvo. Pomagajo tudi pri strukturiranju AI-podprtega akademskega pisanja, raziskovanja, izobraževalnih vsebin, tehnične dokumentacije, pravnega in regulativnega pisanja, dela na politikah ter drugih oblik dela z znanjem.

Osnovni vzorec ostaja uporaben tudi takrat, ko se posamezni AI-izdelki spreminjajo:

• določite cilj in omejitve
• pomemben kontekst ohranite v trajnih zapisih in gradivih
• osnutke ustvarjajte in izboljšujte iterativno
• rezultat preverjajte glede na eksplicitne standarde
• odgovornost za presojo in odobritev naj ostane pri ljudeh
• avtomatizacijo upravljajte prek pregleda, nadzora dostopa in sledljivosti

Ta stran se osredotoča na ta stabilna načela, ne na katerokoli posamezno AI-orodje.

Avtorjeva opomba / uporaben miselni model: Eden od praktičnih načinov razumevanja AI je, da nanj gledamo kot na sodoben orakelj. V računalništvu je orakelj hipotetičen sistem, ki odgovarja na določen razred vprašanj. V kriptografiji lahko orakelj poizvedujemo, ne da bi pri tem razkril svoje notranje delovanje. Vprašanja gredo noter, odgovori pridejo ven, notranjost pa ostane skrita. Prav zato so pomembni zaupanje, validacija, upravljanje in odgovornost.

Od interaktivnega AI do agentskih delovnih tokov

Veliko ljudi se z AI-podprtim delom prvič sreča prek interaktivnih spletnih sistemov. To je razumen začetek.

Specifikacijsko vodeni delovni tokovi ne zahtevajo kodirnih agentov, terminalskih orodij ali avtomatizacije repozitorija. Interaktivni AI lahko že pomaga pri zgodnjih opravilih, kot so priprava specifikacij, pregled dokumentov, izostritev zahtev, priprava prvih osnutkov in predlogov besedila, prepoznavanje vrzeli ter predlaganje načinov preverjanja in alternativ.

Zato je interaktivni AI naravna vstopna točka za ljudi, ki delajo na enkratnih dokumentih, zgodnjih osnutkih ali manjših projektih. Raziskovalec ga lahko uporabi za izboljšanje zasnove članka. Učitelj ga lahko uporabi za izostritev učnih ciljev in zahtevnosti. Skupina za politike ga lahko uporabi za primerjavo možnih struktur dokumenta, preden se formalno pisanje sploh začne. Pravna ali regulativna ekipa ga lahko uporabi za odkrivanje manjkajočih definicij, nerešenih predpostavk ali odvisnosti v pregledu.

Ključna ideja je, da specifikacija ni omejena na funkcionalnosti programske opreme. Pri širšem delu z znanjem lahko specifikacija določa:

• cilje
• omejitve
• pričakovanja kakovosti
• ciljno občinstvo
• terminologijo
• zahteve glede dokazov
• zahteve glede dostopnosti
• obveznosti skladnosti
• standarde objave

Akademski članek lahko na primer vodijo pričakovanja glede sloga citiranja, ravni dokazov, doslednosti terminologije, etičnih razkritij, ciljne revije in jezikovne kakovosti. Izobraževalno gradivo bo morda moralo slediti učnim ciljem, zahtevani stopnji bralne zahtevnosti, usklajenosti z učnim načrtom, zahtevam dostopnosti in pravilom ocenjevanja. Tehnična dokumentacija se lahko mora ujemati z dejanskim vedenjem izdelka, strukturo objave, pravili za posnetke zaslona in politikami verzioniranja. Pravno ali politično pisanje pa lahko zahteva točno določeno jurisdikcijo, odobreno terminologijo, pregledne prehode in obvezne reference.

V vseh teh primerih specifikacija pomaga delo premakniti stran od nejasnih pozivov proti eksplicitnemu namenu.

Markdown kot trajen format za znanje

V praksi mnogo ekip specifikacije, opombe, preglede, ugotovitve, pozive in zapise o delovnem toku hrani v Markdownu. Markdown ni edini uporaben format, vendar je pogosto praktičen, ker je:

• berljiv brez specializirane programske opreme
• dovolj strojno berljiv za avtomatizacijo
• prijazen do verzioniranja in pregleda razlik
• prenosljiv med orodji in platformami
• primeren za dolgoročno uporabo

Te lastnosti so pri AI-podprtem delu pomembne, ker je kontekst dragocen le, če ga lahko ohranimo, znova pregledamo in ponovno uporabimo. Markdown olajša hranjenje več kot le končnega izdelka. Ohrani lahko cilje, predpostavke, omejitve, ugotovitve pregledov, pravila objave, rezultate validacije in odločitve skupaj z njihovo utemeljitvijo.

To koristi ljudem, ker izboljšuje sledljivost in pregled. Koristi pa tudi AI-sistemom, ker pomemben kontekst ostane v formatu, ki ga je razmeroma enostavno citirati, iskati, povzemati in znova priklicati.

Markdowna ne smemo obravnavati kot čarobne rešitve. Sam po sebi ne zagotavlja pravilnosti, ažurnosti ali dobre presoje. Pogosto pa dobro služi kot trajen medij za organizacijski spomin.

Iterativno izboljševanje je normalen primer

Resnični AI-podprti delovni tokovi so redko linearni. Specifikacija je na začetku pogosto nepopolna in se skozi razpravo postopoma razjasni.

Realističen cikel pogosto izgleda tako:

1. določite cilj
2. pripravite osnutek specifikacije
3. ustvarite začetni rezultat
4. rezultat pregledate
5. specifikacijo izboljšate
6. popravek validirate
7. ponavljate, dokler rezultat ni sprejemljiv

To je pomembno, ker si veliko ljudi AI-delovni tok še vedno predstavlja kot en sam poziv, ki mu sledi končni odgovor. Pri resnem delu kakovost običajno ne nastane tako. Veliko pogosteje nastane prek zaporednega razjasnjevanja.

Človeški udeleženci v tem ciklu ostanejo osrednji. AI lahko pomaga pri generiranju, organiziranju, preoblikovanju, primerjanju in pregledu, toda ljudje ostajajo odgovorni za:

• cilje
• prioritete
• kompromise
• odločitve o odobritvi
• presojo kakovosti

V tem smislu človek ni le pisec pozivov. Deluje kot pregledovalec, urednik, domenski strokovnjak in odločevalec.

Zakaj interaktivni AI s časom doseže praktične meje

Interaktivni AI ostaja uporaben tudi v zrelejših delovnih tokovih, vendar večji projekti pogosto razkrijejo dve ponavljajoči se omejitvi: kontekst in orodja.

Kontekst je omejen. Tudi kadar sodobni sistemi lahko obdelajo velike količine informacij, je še vedno nepraktično, da bi v enem samem pogovoru stalno držali vsako specifikacijo, ugotovitev, vir, komentar pregleda in podporni dokument. Ko projekt raste, težava ni le skupna količina. Težava je tudi relevantnost.

Zato mnogi agentski delovni tokovi uporabljajo ponovno pridobivanje. Namesto da bi poskušali imeti vse ves čas v aktivnem vidnem polju, sistem hrani trajne zapise in ob potrebi pridobi najrelevantnejši material. Cilj ni nujno prikazati več informacij naenkrat, temveč prikazati prave informacije v trenutku, ko so potrebne.

Druga omejitev so orodja. Interaktivne spletne platforme navadno ponujajo skrbno izbrana orodja, zasnovana za zanesljivo uporabo pri širokem občinstvu. Tak pristop ima resnične prednosti:

• zanesljivost
• vzdrževanje
• varnost
• doslednost

Toda specializirano delo pogosto potrebuje specializirano programsko opremo. Splošen vmesnik ni vedno dovolj za delovni tok, ki je odvisen od preverjanja citatov, OCR, sistemov za objavo, avtomatizacije brskalnika, statistične analize ali pregleda skladnosti.

To je eden od razlogov, da so se pojavili agentski delovni tokovi. Omogočajo AI-sistemom, da pridobijo osredotočen kontekst, kličejo ustrezna orodja, validirajo delo in nadaljujejo iteracije čez večje količine gradiva.

Veščine, orodja in specializirani sistemi

Pri AI-podprtem delu so orodja pogosto vmesniki do specializiranih sistemov, ne pa njihove zamenjave.

Primeri vključujejo:

• preverjanje pravopisa in jezikovne kakovosti
• OCR
• avtomatizacijo brskalnika
• ustvarjanje diagramov
• validacijo citatov
• statistično programsko opremo
• sisteme za objavo
• sisteme za obdelavo dokumentov

Akademski delovni tok se lahko opira na verige TeX ali LaTeX, upravljalnike bibliografije, predloge za revije in statistične pakete. Dokumentacijski delovni tok se lahko opira na preverjanje povezav, validatorje dostopnosti, procese za posnetke zaslona in objavne cevovode. Pravni ali politični delovni tok je lahko odvisen od sistemov za upravljanje dokumentov, knjižnic klavzul, preglednih sistemov ali regulativnih referenčnih baz.

AI-sistem zagotavlja koordinacijo in sklepanje, specializirana orodja pa opravijo domensko specifično delo.

Ko delovni tokovi dozorijo, se ponavljajoča navodila pogosto spremenijo v ponovno uporabna sredstva, kot so veščine, predloge, postopki, definicije delovnih tokov in pravila validacije. To je eden najpomembnejših načinov, kako organizacijsko znanje skozi čas postane trajnejše. Kar se začne kot ponavljajoč pogovorni nasvet, pogosto postane sredstvo, ki ga je mogoče ponovno uporabiti in pregledati.

Validatorji in institucionalni standardi

Validatorji so pomemben del specifikacijsko vodenega dela z znanjem, ker pomagajo preverjati, ali artefakt izpolnjuje določen del svoje specifikacije.

Glede na področje lahko med validatorje sodijo:

• validatorji jezikovne kakovosti
• slogovni validatorji
• validatorji citatov
• validatorji dostopnosti
• validatorji skladnosti
• validatorji za objavo

Validatorjev ne smemo obravnavati kot pomembnejših od vsebine same. Ne nadomeščajo avtorstva, strokovnosti ali presoje. Vendar pogosto preživijo posamezne projekte in pomagajo ohranjati standarde skozi čas.

Validator citatov, ustvarjen za en objavni delovni tok, lahko pozneje podpira mnogo objav. Validator terminologije lahko zmanjša nedoslednost med avtorji in ekipami. Validatorji dostopnosti in objave lahko pomagajo ohranjati institucionalna pričakovanja kakovosti, tudi ko se menjajo sodelavci in orodja.

Ni realistično pričakovati, da bo vsak avtor takšne validatorje zgradil sam. V mnogih primerih to zahteva tehnično znanje, domensko strokovnost, infrastrukturo in vzdrževanje. Razumno je, da univerze, založniki, raziskovalne skupine, javne ustanove ali notranje platformne ekipe zagotavljajo skupne validatorje, namesto da bi moral vsak pisec vse zgraditi od začetka.

Trajni formati zunaj besedila

Čeprav je Markdown pogosto praktičen za besedilne artefakte, so pomembni tudi drugi trajni formati.

SVG je pogosto uporaben format za diagrame, ker je besedilen, skalabilen, razmeroma prijazen do verzioniranja ter dostopen tako človeškemu urejanju kot AI-podprti obdelavi. Ni vedno prava izbira, vendar dobro deluje takrat, ko je treba diagrame vzdrževati kot žive artefakte in ne kot neprozorne slike.

Splošno načelo je širše od kateregakoli posameznega tipa datoteke: formati, ki ostanejo pregledni, prenosljivi in vzdržljivi, navadno podpirajo AI-podprte delovne tokove bolje kot formati, ki skrivajo strukturo ali pregled po nepotrebnem otežujejo.

Lokalizacija in bralčev kontekst

Specifikacijsko vodeni delovni tokovi veljajo tudi za večjezično delo. Specifikacije, ugotovitve pregledov, primeri in artefakti delovnega toka lahko vsi potrebujejo lokalizacijo.

Ko so dokumenti lokalizirani, naj bodo, kjer je to praktično, lokalizirani tudi primeri. Nepotrebni angleški navedki povečujejo kognitivno obremenitev bralcev, ki sicer berejo v drugem jeziku.

Izjeme lahko vključujejo:

• imena podjetij
• imena izdelkov
• standarde
• ukaze
• kodo
• imena protokolov

Cilj ni jezikovna čistost. Cilj je zmanjšati trenje za bralca in zapise o delovnem toku ohraniti razumljive v njegovem delovnem jeziku.

Strnjena študija primera delovnega toka

Podporni prepis za to temo je uporaben primer tega, kako se specifikacije razvijajo skozi razpravo. Poglavje se ni začelo s popolnoma izdelano strukturo. Zahteve so se pojavile iterativno.

V poenostavljeni obliki je razprava potekala približno takole:

• začetna ideja: “razširi besedilo … dodaj praktičen uvid … vključi akademsko, izobraževalno in morda pravno pisanje”
• kritika: “Tega ne bi povedal tako neposredno … validatorji imajo dolgoročno vrednost”
• razširitev obsega: “najprej bi se osredotočil na interaktivni spletni AI”
• praktične omejitve: “omejevala bo količina konteksta, ki ga lahko AI hkrati drži v obdelavi …”
• arhitektura delovnega toka: “vloga veščin … kot vmesnikov do specializiranih programov”
• pomisleki glede upravljanja: “uporaba zunanjih veščin prinaša resne varnostne posledice”
• pomisleki glede lokalizacije: “tudi navedki bi morali biti prevedeni v vsak jezik”
• konsolidacija: “gre za eno večjo temo … bolje je imeti nekaj obsežnejših člankov”

To zaporedje je bolj reprezentativno za resnično AI-podprto delo kot pa polirana zgodba o uspehu. Pomembna lekcija ni, da je bil na koncu napisan popoln poziv. Pomembno je, da so se zahteve, ugovori, uredniške odločitve in pomisleki glede upravljanja postopoma pretvorili v jasnejšo specifikacijo.

Upravljanje, zaupanje in varnost

Ko AI-sistemi prehajajo od pasivne pomoči pri pisanju k uporabi orodij in izvajanju delovnih tokov, upravljanje postaja pomembnejše, ne manj pomembno.

Tradicionalna varnost programske opreme se je pogosto osredotočala na izvršljivo kodo. V AI-podprtih sistemih je meja širša. Na vedenje sistema lahko vplivajo sama navodila. Specifikacije, definicije delovnih tokov, pozivi in opisi veščin lahko vsi vplivajo na to, kaj sistem naredi in kako to naredi.

To ne pomeni, da je treba vsako besedilno datoteko obravnavati kot inherentno nevarno. Pomeni pa, da morajo organizacije skrbno premisliti o mejah zaupanja. V AI-podprtih okoljih nekatera besedila niso zgolj opisna. Lahko postanejo operativna.

Veščine, integracije in meje zaupanja

Zunanje veščine, orodja, paketi delovnih tokov in integracije so lahko koristni, vendar hkrati odpirajo vprašanja upravljanja.

Organizacije lahko povsem razumno dajejo prednost:

• interno razvitim veščinam
• institucionalno pregledanim delovnim tokom
• zaupanja vrednim ponudnikom
• upravljanim integracijam

To je posebej pomembno, kadar lahko veščina ali integracija vpliva na pridobivanje gradiva, preoblikovanje, objavo, zunanji dostop ali klicanje orodij. Dobro upravljan delovni tok navadno ne spremlja le tega, kaj lahko AI pove, temveč tudi, do česa lahko dostopa, kaj lahko sproži in kaj lahko spremeni.

Veliki ponudniki, kot so OpenAI, Microsoft in Oracle, lahko ponujajo ekosisteme orodij in integracijske sloje, vendar trajno vprašanje upravljanja ni, kateri trenutni izdelek obstaja. Vprašanje je, ali organizacija razume in zaupa meji delovnega toka, ki jo uvaja.

Avtorizacijo ohranite zunaj AI-sklepanja

Uporabno načelo zasnove je, da odločitve o avtorizaciji, kjer je to praktično mogoče, ostanejo zunaj AI-sistema.

AI lahko pomaga odločiti, katero dejanje je videti smiselno, vendar mora dejansko dovoljenje za izvedbo tega dejanja zagotavljati sistem, ki je zgrajen za avtentikacijo, avtorizacijo, revizijo in upravljanje poverilnic. V praksi to pogosto pomeni opiranje na:

• ponudnike identitete
• nadzor dostopa na podlagi vlog
• dovoljenja v podatkovni bazi
• API-prehode
• odobritve delovnih tokov
• varno ravnanje s poverilnicami

Poverilnice morajo ostati v sistemih, namenjenih upravljanju poverilnic, ne pa vdelane v pozive, specifikacije ali improvizirana navodila delovnega toka.

Ta ločitev je pomembna, ker zmanjša verjetnost, da bi prepričljivo ustvarjeno navodilo zamenjali za legitimno avtoriteto. Odobritve in nadzor dostopa morajo ostati zasidrani v sistemih, ki so namenjeni njihovemu uveljavljanju.

AI-prehodi kot sloj upravljanja

Nekatere ustanove se lahko odločijo, da bodo AI uvedle prek nadzorovanih prehodov, namesto da bi vsak notranji sistem neposredno izpostavile.

AI-prehod lahko podpira:

• revizijo
• uveljavljanje politik
• avtentikacijo
• avtorizacijo
• nadzor
• odobren dostop do orodij

To ni univerzalna zahteva in manjše ekipe lahko izberejo lažje nadzore. Je pa razumen vzorec upravljanja za institucije, ki potrebujejo sledljivost, centralni nadzor ali dosledno uveljavljanje politik prek mnogih uporabnikov in delovnih tokov.

Zakaj upravljanje z rastjo avtomatizacije pridobiva vrednost

Več avtomatizacije ne odstrani potrebe po pregledu. Poveča vrednost odgovornega pregleda.

Ko AI-podprto delo postaja hitrejše, organizacije pogosto potrebujejo močnejše, ne pa šibkejše strukture za:

• odgovornost
• sledljivost
• validacijo
• odobritev
• zaupanje
• ohranjanje institucionalnega znanja

To je eden od razlogov, da specifikacijsko vodeni delovni tokovi ostajajo uporabni tudi zunaj trenutnih trendov v orodjih. Organizacijam dajejo način, kako ohraniti namen, določiti standarde, povezati rezultate s pregledom in upravljati avtomatizacijo, ne da bi se pretvarjale, da avtomatizacija naredi upravljanje nepotrebno.

Praktični poudarek

Najtrajnejša lekcija je preprosta:

AI-podprto delo z znanjem postane zanesljivejše, ko so cilji, omejitve, standardi, validacija in avtoriteta eksplicitni.

To načelo velja za programsko opremo, velja pa tudi za raziskovanje, poučevanje, dokumentacijo, delo na politikah, pravno pisanje in druge resne procese pisanja ter pregleda. Orodja se bodo spreminjala. Potreba po specifikacijah, pregledljivem kontekstu, validaciji in upravljanih mejah zaupanja bo verjetno ostala.

Kako delati z AI

• AI obravnavajte kot sposobnega sodelavca, ne kot avtoriteto
• pomembne trditve preverite
• ohranite pomemben kontekst
• zapišite cilje in predpostavke
• rezultate preglejte
• odgovornost za odločitve naj ostane pri ljudeh

Podporno gradivo

Podporno gradivo na docs/supporting-material/spec_driven_workflow_thread.html dokumentira del razprave in procesa izostrovanja, ki stoji za tem člankom. Gre za zapis delovnega toka, ne pa za edini vir vseh idej v članku.

Prepis vsebuje nepopolne ideje, spreminjajoča se stališča, opuščene predloge, grobo oblikovane povedi, tipkarske ali samodejno popravljene napake ter druge sledi iterativnega izboljševanja. Sklepi članka in avtorjevi premisleki zato niso enaki prepisu.

Ta stran vključuje tudi poznejšo sintezo, uredniško obdelavo, izkušnje iz implementacije, lokalizacijske preglede, validacijsko delo in osebni razmislek. Nekateri zaključki so se izoblikovali šele po koncu posnete razprave.

Povezane strani

• spec-driven-development.md
• markdown-in-product-development.md
• validation-layers.md
• documentation-traceability.md