Përgjegjësia pas inteligjencës

Pse njerëz nga prejardhje shumë të ndryshme vazhdojnë të përqendrohen te të njëjtat shqetësime rreth AI

Debati publik rreth inteligjencës artificiale është i zhurmshëm në mënyra të parashikueshme.

Disa njerëz flasin sikur AI do ta zgjidhë gjithçka. Të tjerë flasin sikur do ta shkatërrojë gjithçka. Të dy reagimet janë të kuptueshme. Asnjëri nuk është shumë i dobishëm.

Mua më intereson më shumë diçka më e qetë.

Njerëz nga prejardhje shumë të ndryshme duket se shqetësohen për disa nga të njëjtat gjëra.

Inxhinierët flasin për llogaridhënie, gjurmueshmëri dhe rishikim.

Mësuesit flasin për gjykim, të mësuarit dhe dallimin mes ndihmës dhe zëvendësimit.

Gazetarët flasin për përgjegjësi, verifikim dhe erozion të besimit.

Filozofët flasin për agjenci, person dhe rrezikun e reduktimit të qenieve njerëzore në funksione.

Udhëheqësit fetarë shpesh flasin për dinjitet, kujdestari të përgjegjshme, përgjegjësi morale dhe rrezikun e trajtimit të njerëzve si mjete e jo si qëllime.

Këto komunitete nuk flasin me një zë të vetëm. Nuk ndajnë të njëjtat supozime. Madje nuk përdorin as të njëjtin fjalor.

E megjithatë vazhdojnë të rrotullohen rreth shqetësimeve të ngjashme:

• humbja e agjencisë njerëzore
• çnjerëzimi
• delegimi i gjykimit
• përqendrimi i pushtetit
• erozioni i llogaridhënies
• zëvendësimi i marrëdhënieve me simulime
• trajtimi i inteligjencës si mall
• trajtimi i njerëzve si të dhëna

Kjo përputhje ia vlen të merret seriozisht.

Pyetja qendrore mund të mos jetë teknike

Shumë diskutime për AI përqendrohen fillimisht te aftësia.

Çfarë mund të bëjë modeli? Sa shpejt po përmirësohet? Cilat detyra mund t’i automatizojë? Cilat mjete mund të thërrasë? Sa arsyetim mund të imitojë?

Këto janë pyetje reale. Kanë rëndësi.

Por pyetjet më të rëndësishme për AI mund të mos jenë teknike.

Mund të jenë pyetje përgjegjësie.

Sa më të afta të bëhen sistemet, gjykimi njerëzor, llogaridhënia, qeverisja dhe mbikëqyrja nuk bëhen më pak të rëndësishme. Bëhen më të rëndësishme.

Kjo është e lehtë të keqkuptohet. Njerëzit shpesh supozojnë se, nëse një sistem duket më inteligjent, roli njerëzor duhet të tkurret proporcionalisht. Por në shumë fusha serioze ndodh e kundërta.

Sa më i fuqishëm të jetë sistemi, aq më me kujdes dikush duhet të përcaktojë kufijtë, të miratojë veprimet, të shqyrtojë rezultatet dhe të mbetet përgjegjës për atë që ndodh më pas.

Komunitete të ndryshme, shqetësime të ngjashme

Një arsye pse debati aktual mund të duket i copëzuar është se komunitete të ndryshme e përshkruajnë të njëjtin problem me gjuhë të ndryshme.

Një inxhinier mund të thotë:

Na duhen kufij të qartë miratimi, standarde të rishikueshme dhe gjurmueshmëri.

Një mësues mund të thotë:

Studentët ende duhet të mësojnë si të mendojnë, jo vetëm si të dërgojnë prompt-e.

Një gazetar mund të thotë:

Nuk mund të normalizojmë dalje të besueshme në dukje për të cilat askush nuk mban përgjegjësi.

Një filozof mund të thotë:

Një shoqëri që e trajton gjykimin si shërbim rrezikon të zbrazë agjencinë morale.

Një udhëheqës fetar mund të thotë:

Dinjiteti njerëzor nuk duhet t’u nënshtrohet sistemeve të efikasitetit dhe kontrollit.

Këto nuk janë pohime identike. Disa janë institucionale. Disa janë morale. Disa janë praktike. Disa janë metafizike.

Por mbivendosen më shumë sesa njerëzit e pranojnë ndonjëherë.

Të gjitha bëjnë ndonjë version të së njëjtës pyetje:

Çfarë ndodh kur përgjegjësi njerëzore transferohen ngadalë te sisteme që mund të na ndihmojnë, të na imitojnë dhe të zgjerojnë vendimmarrjen, por që nuk mund të mbajnë realisht përgjegjësi në vendin tonë?

Kjo nuk është një shqetësim i ngushtë. Është një shqetësim qytetërues.

Pikëpamja inxhinierike është më morale sesa tingëllon

Nga jashtë, përgjigjet inxhinierike ndaj AI mund të duken të thata.

Specifikime. Validatorë. Radhë rishikimi. Gjurmë auditimi. Flukse miratimi. Gjurmueshmëri. Histori ndryshimesh. Kontroll qasjeje.

Këto mund të tingëllojnë si mekanikë procesi. Por nuk janë thjesht mekanizma teknikë.

Janë mënyra për të ruajtur përgjegjësinë.

Një specifikim nuk është thjesht një artefakt planifikimi. Është një mënyrë për të thënë: kjo është ajo që synuam të ndërtonim dhe ky është standardi ndaj të cilit duhet të gjykohet rezultati.

Një validator nuk është thjesht automatizim. Është një mënyrë për të thënë: kujtesa dhe siguria nuk mjaftojnë; pretendimet e rëndësishme duhet të kontrollohen.

Një fluks miratimi nuk është thjesht burokraci. Është një mënyrë për të thënë: disa vendime kërkojnë që një emër njeriu të lidhet me to.

Një gjurmë auditimi nuk është thjesht regjistrim. Është një mënyrë për të ruajtur aftësinë për t’iu përgjigjur pyetjes: kush e ndryshoi këtë, pse dhe mbi çfarë supozimesh?

Gjurmueshmëria shpesh përshkruhet si shqetësim inxhinierik. Ajo është edhe një shqetësim moral. E mban veprimin të lidhur me llogaridhënien.

Kjo ka rëndësi sepse aftësia pa llogaridhënie nuk është inteligjencë në asnjë kuptim shoqërisht të dobishëm. Është thjesht pushtet.

Tundimi për të deleguar gjykimin

AI është vërtet i dobishëm.

Mund të hartojë. Të përmbledhë. Të krahasojë. Të riformatojë. Të përkthejë. Të organizojë. Të nxjerrë në pah mospërputhje. Të gjenerojë alternativa. Të përshpejtojë punën rutinë.

Asgjë nga kjo nuk duhet mohuar.

Problemi i vërtetë shfaqet kur ndihma bëhet në heshtje zëvendësim.

Ka një dallim të rëndësishëm mes:

• ndihmës së njerëzve për të menduar dhe të menduarit në vend të njerëzve
• hartimit dhe vendosjes
• këshillimit dhe miratimit
• hulumtimit dhe gjykimit
• asistimit dhe qeverisjes

Ky dallim nuk është gjithmonë i qartë në çast.

Një rekomandim paraprak mund të bëhet vendim standard nëse askush nuk do ta rihapë. Një vlerësim modeli mund të bëhet politikë nëse njerëzit ndalojnë së pyeturi si duhet përdorur. Një përmbledhje e gjeneruar mund të zëvendësojë leximin e drejtpërdrejtë nëse shpejtësia bëhet vlera e vetme. Një marrëdhënie e simuluar mund të zëvendësojë një të vërtetë nëse komoditeti bëhet masa e përshtatshmërisë.

Për këtë nuk nevojitet qëllim distopik. Mund të ndodhë përmes projektimit të zakonshëm të flukseve të punës.

Prandaj pyetja nuk është nëse AI duhet përdorur.

Sigurisht që do të përdoret.

Pyetja është nëse ne mbetemi të disiplinuar për cilat përgjegjësi po ndihmohen dhe cilat po delegohen në heshtje.

Modeli im personal mendor: AI si orakull modern

Modeli im personal mendor për AI është orakulli.

Nuk e them këtë si përkufizim formal. E kam si një mënyrë praktike për të mbetur i ndershëm për atë se si janë këto sisteme në përdorimin e përditshëm.

Pyetjet hyjnë. Përgjigjet dalin. Arsyetimi i brendshëm shihet vetëm pjesërisht. Përgjigjja mund të jetë mbresëlënëse. Përgjigjja mund të jetë edhe e gabuar, sipërfaqësore, e verbër ndaj kontekstit ose e paqartë ndaj përgjegjësisë reale në fjalë.

Ky model më ndihmon sepse dekurajon si entuziazmin e tepruar ashtu edhe sentimentalizmin.

Një orakull mund të jetë i dobishëm. Një orakull mund të jetë madje jashtëzakonisht i dobishëm. Por një orakull nuk është përgjegjës.

Kjo do të thotë se besimi duhet të strukturohet rreth kufijve.

Kush lejohet të pyesë çfarë? Kush lejohet të veprojë mbi bazën e përgjigjes? Çfarë duhet të validohet? Çfarë duhet të rishikohet? Çfarë kërkon miratim të qartë? Çfarë regjistrohet? Çfarë mbetet vendim njerëzor pavarësisht sa bindëse duket dalja?

Modeli i orakullit nuk i zgjidh këto pyetje. Thjesht i mban në pamje.

Dinjiteti njerëzor dhe agjencia njerëzore

Gjuha e dinjitetit mund t’i bëjë disa inxhinierë të ndihen në siklet sepse tingëllon abstrakte. Gjuha e llogaridhënies mund t’i bëjë disa humanistë të ndihen në siklet sepse tingëllon procedurale.

Por hendeku është më i vogël sesa duket në fillim.

Traditat fetare shpesh flasin për dinjitetin njerëzor. Disiplinat inxhinierike shpesh flasin për llogaridhënien njerëzore.

Fjalori ndryshon. Shqetësimi shpesh është habitërisht i ngjashëm.

Të dyja po përpiqen, në mënyra të ndryshme, t’i rezistojnë një bote në të cilën njerëzit trajtohen si përbërës të zëvendësueshëm në sisteme më të mëdha optimizimi.

Nëse një person reduktohet në një pikë të dhënash, në një parashikim sjelljeje, në një vlerësim rreziku, në një profil konsumatori ose në një variabël efikasiteti, diçka e rëndësishme tashmë është humbur.

Po ashtu, nëse përgjegjësia reduktohet në atë që prodhoi sistemi, në vend të asaj që një person ose institucion zgjodhi të lejojë, miratojë ose zbatojë, edhe aty diçka e rëndësishme tashmë është humbur.

Dinjiteti dhe llogaridhënia takohen në këtë pikë:

Një person nuk duhet të trajtohet sikur është vetëm një hyrje për një sistem. Dhe një sistem nuk duhet të trajtohet sikur mund ta mbajë vetë përgjegjësinë njerëzore.

Pse përqendrimi i pushtetit ka kaq shumë rëndësi

Shumë shqetësime rreth AI përfundojnë duke çuar te një pyetje qeverisjeje.

Kush i zotëron modelet? Kush kontrollon infrastrukturën? Kush përcakton përdorimin e pranueshëm? Kush mund t’i auditojë vendimet? Kush mund ta kundërshtojë një dalje? Kush e mban koston e gabimit? Kush përfiton nga shkalla? Kush bëhet i varur nga sisteme që nuk i kupton dhe mbi të cilat nuk mund të ushtrojë ndikim kuptimplotë?

Kjo është një nga arsyet pse njerëz nga fusha të ndryshme vazhdojnë të flasin për përqendrim pushteti.

Nëse inteligjenca bëhet mall i dorëzuar përmes një numri të vogël platformash, institucionet mund të bëhen operacionalisht të varura nga sisteme, nxitjet e të cilave nuk i kontrollojnë.

Nëse gjykimi njerëzor ndërmjetësohet rregullisht nga sisteme të paqarta, llogaridhënia bëhet më e lehtë për t’u shpërndarë.

Nëse ekspertiza e simuluar bëhet e lirë ndërsa ekspertiza reale mbetet e ngadaltë dhe e kushtueshme, do të rritet presioni për të zëvendësuar gjykimin me besueshmëri të dukshme.

Asgjë nga kjo nuk do të thotë se centralizimi është gjithmonë dashakeq. Shumë prej saj lind natyrshëm nga ekonomia, shkalla dhe komoditeti.

Por komoditeti nuk është qeverisje.

Dhe shkalla nuk është legjitimitet.

Arsimi mund të jetë vendi ku kjo bëhet më e dukshme

Arsimi e sjell shpejt problemin në fokus.

Studentët mund ta përdorin AI për brainstorming, përmbledhje, përkthim, shpjegim dhe hartim. Disa nga këto janë qartësisht të dobishme.

Por arsimi nuk ka të bëjë vetëm me prodhimin e daljeve. Ka të bëjë edhe me formimin e gjykimit.

Nëse studentët mësojnë kryesisht si të marrin përgjigje me pamje të pranueshme, por jo si të vlerësojnë argumente, të testojnë prova, të zbulojnë gabime ose të mbajnë një vijë arsyetimi në mendjen e tyre, atëherë diçka e rëndësishme po delegohet shumë herët.

Çështja nuk është pastërtia. Është formimi.

E njëjta gjë vlen për jetën profesionale.

Një inxhinier i ri, redaktor, analist ose studiues që i nënshtrohet gjithmonë besueshmërisë së gjeneruar mund të duket produktiv, ndërsa bëhet më pak i aftë për gjykim të pavarur.

Ky është një rrezik serioz, jo sepse AI i bën njerëzit budallenj, por sepse institucionet mund të shpërblejnë pa dashje varësinë.

Gazetaria, besimi publik dhe kostoja e gënjeshtrës së besueshme

Gazetaria prej kohësh merret me dallimin mes asaj që tingëllon e vërtetë dhe asaj që mund të verifikohet.

AI e mpreh këtë dallim.

Një fjali e gjeneruar mund të jetë e lëmuar, e balancuar në ton dhe bindëse në strukturë, ndërsa mbetet e gabuar pikërisht në mënyrat që kanë më shumë rëndësi. Mund të shtrembërojë një marrëdhënie, të rrafshojë pasigurinë, të sajojë kontekst ose të nënkuptojë njohuri që askush nuk i kontrolloi realisht.

Kjo është një nga arsyet pse gazetarët shpesh duken më pak të mahnitur nga rrjedhshmëria sesa publiku i gjerë.

Ata punojnë në një fushë ku besueshmëria pa llogaridhënie nuk është kuriozitet. Është rrezik profesional.

Kjo perspektivë ka rëndësi shumë përtej gazetarisë.

Sapo institucionet fillojnë të normalizojnë dalje të lëmuara pa vija të qarta përgjegjësie, besimi nuk dështon menjëherë. Ai gërryhet gradualisht, përmes përvojave të përsëritura ku askush nuk mund të thotë qartë kush qëndron pas një pretendimi.

Qeverisja nuk është armike e inovacionit

Ekziston një mënyrë sipërfaqësore për të folur për qeverisjen që e trajton atë si frikë, pengesë ose frikacakëri institucionale.

Nuk mendoj se kjo është serioze.

Qeverisja e mirë nuk është refuzimi për të përdorur sisteme të fuqishme. Është refuzimi për t’i përdorur ato në mënyrë të papërgjegjshme.

Kjo do të thotë:

• ta mbash autorizimin jashtë daljes së modelit
• ta ndash rekomandimin nga miratimi
• t’i dokumentosh kufijtë
• të ruash regjistrime të rishikueshme
• të krijosh rrugë përshkallëzimi
• ta bësh përgjegjësinë të lokalizueshme
• të refuzosh të ngatërrosh sigurinë e gjeneruar me autoritetin legjitim

Këto nuk janë shenja se AI ka dështuar. Janë shenja se njerëzit ende e kuptojnë rolin e tyre.

Pyetja e vërtetë

Pyetja nuk është nëse AI bëhet më i fuqishëm.

Pothuajse me siguri po.

Pyetja e vërtetë është nëse individët dhe institucionet vazhdojnë të ushtrojnë përgjegjësi që nuk duhet t’u delegohen plotësisht makinerive.

Kjo pyetje vlen për inxhinierët. Për mësuesit. Për redaktorët. Për studiuesit. Për gazetarët. Për menaxherët. Për nëpunësit civilë. Për universitetet. Për kompanitë. Për qeveritë. Për familjet.

AI mund të bëhet më i shpejtë, më i lirë, më i lëmuar, më bindës dhe më thellë i integruar në jetën e përditshme.

Kjo nuk e heq nevojën për gjykim. E rrit koston e neglizhimit të tij.

Nëse ka një parim që ia vlen të mbahet fort, është ky:

Sa më i aftë të jetë sistemi, aq më të qëllimshëm duhet të bëhemi për përgjegjësinë njerëzore.

Jo sepse njerëzit janë të pagabueshëm. Jo sepse makinat janë të liga. Por sepse përgjegjësia mbetet ende një barrë njerëzore, dhe dinjiteti njerëzor ende varet nga gatishmëria e njerëzve dhe institucioneve për ta mbajtur atë.

Lexime të lidhura

• ai-as-an-oracle.md
• governance-trust-and-security-in-ai-workflows.md
• ai-workflows-beyond-software.md
• spec-driven-development-for-ai-projects.md
• documentation-is-part-of-the-product.md