Iluzija kompetentnosti v dobi umetne inteligence

Med raziskavo za doktorat sem se pogovarjala z enajstimi strokovnjaki s področja kadrovanja, komunikacije in tehnologije. Eden od njih je opisal, kako velika podjetja – IBM je omenil kot primer – že zdavnaj ne pregledujejo vseh prijav ročno. Algoritem najprej zmanjša tisoče kandidatov na obvladljivo število, šele potem nastopi človeška presoja. Učinkovito. Hitro.

A potem je dodal stavek, ki mi ni šel iz glave: »Algoritem je pristranski, ker išče vzorce v pristranskih podatkih. Enako se zgodi pri ključni besedi, ki je narobe zapisana – a je prava. Dislektiki so izključeni.«

Ne gre za okvaro sistema. Sistem deluje točno tako, kot je bil zasnovan. In v tem je problem.

Komunikološko mišljenje se v zadnjih letih ukvarja z dvema vzporednima opažanjema. Eno zadeva javno sfero: digitalizacija ni okrepila izražanja mnenj – zamenjala ga je z njihovim izluščanjem. Namesto da bi tehnologija ustvarila več možnosti za glas, je ustvarila učinkovitejše sisteme za zbiranje in razvrščanje tega glasu, ne da bi ga kadarkoli zares slišala. Drugo zadeva organizacije: prešle so od gradnje odnosov k upravljanju sporočil – in se pri tem oddaljile od tega, čemur komunikacija sploh služi.

Ozkosrčni materializem vodi v obup in uničenje narave

Obe opažanji opisujeta isto bolezen. Le da se zdaj kaže na treh ravneh hkrati.

Prva raven je algoritem namesto presoje.

Polstrukturirani intervjuji z enajstimi strokovnjaki so razkrili vzorec, ki smo ga nato preverili in razširili. V mednarodni primerjalni raziskavi, ki smo jo izvedli skupaj s strokovnjaki iz Slovenije, Estonije, Latvije in Ukrajine na vzorcu štirideset intervjuvancev, več kot 90 odstotkov zaznava izgubo človeškega stika v kadrovskih postopkih, več kot 80 odstotkov pa jih opozarja na upad zaupanja – ne zaradi slabe tehnologije, ampak ker odločitve nihče ne zna razložiti. Kandidati ne izvejo, zakaj so bili zavrnjeni. Sistem ne pojasnjuje. Ne posluša. Ne odgovarja.

Algoritmi niso nevtralni. Temeljijo na vzorcih iz preteklosti in reproducirajo neenakosti – tiste, ki jih pogosto sploh ne prepoznamo kot problematične, dokler nam nekdo ne omeni dislektika ali kandidata z nekonvencionalno poklicno potjo. Ko tak sistem vstopi v komunikacijo, se razmerje moči preusmeri. Kar je nekoč temeljilo na vsaj delno simetričnem odnosu, se sesede v enosmerno selekcijo. Komunikacija ne deluje več kot prostor izmenjave – deluje kot prostor filtriranja.

Kdo bo šibki člen v dobi umetne inteligence in kibernetskih groženj?

Druga raven je produkcija namesto dialoga.

Poglejte katerokoli objavo na družbenih omrežjih katerekoli večje organizacije, tudi državne uprave. Veliko je vsebin, veliko je objav, veliko je besed. Besedila so pravilna, strukturirana, brezhibna. A ko jih beremo, pogosto ne izvemo bistveno več, kot smo vedeli na začetku. Nikogar ne nagovarjajo zares. Morda samo akterje, ki nastopajo v objavi. Pisana so za statistiko dosega, za poročilo o aktivnostih, za tiste, ki v tej komunikaciji nastopajo – ne za tiste, ki naj bi jo prejeli.

To ni naključje, to je logika sistema. Platforme merijo število objav, všečke, doseg – ne razumevanja, ne zaupanja, ne dejanskega vpliva. In organizacije, ujete v to metriko, komunicirajo vse več in vse manj povedo. Izražanje je postalo oddajanje. Količina pa je izrinila kakovost.

Tretja raven je iluzija kompetentnosti.

Generativna orodja so ta vzorec radikalno pospešila. Besedilo, ki je nekoč zahtevalo uro razmisleka, nastane v dveh minutah. V tem pa je subtilna past, ki jo v praksi hitro prepoznamo – pogosto že v nekaj stavkih: to, da znamo s pomočjo umetne inteligence napisati besedilo, še ne pomeni, da razumemo, o čem pišemo.

Arhitektura zaupanja in njen razpad

To je iluzija kompetentnosti. Občutek znanja brez znanja. Na prvi pogled so takšna besedila tekoča, logična, prepričljiva – a brez konteksta, brez občutka za naslovnika, brez dejanskega razumevanja. Namesto da bi zajela bistvo, ga nadomestijo s plastjo splošnih formulacij. Takšna besedila je pogosto težje izboljšati, kot če bi imeli zgolj osnovna izhodišča – ker so videti končana, čeprav so prazna. Vse tri ravni opisujejo isti vzorec. Sistem je optimiziran za izhod – za hitrost, obseg, merljive rezultate. Kar ostane zunaj te optimizacije, je pomen.

S kom sploh govorimo, ko tako komuniciramo? Ali sploh še govorimo – ali samo oddajamo in izluščamo?

Empirični podatki, zbrani v obeh raziskavah, kažejo na enoten odgovor: komunikacija v digitalni dobi ne propada zaradi tehnologije. Propada, ker smo pozabili, čemu služi. Komunikacijski model, ki sem ga na podlagi teh ugotovitev razvila za kadrovske procese, to postavlja kot izhodišče, ne kot zaključek.

Petra Mišič je doktorica s področja organizacije in managementa kadrovskih in izobraževalnih sistemov na Univerzi v Mariboru. FOTO: Osebni Arhiv Delo

Ta model počiva na štirih dimenzijah, ki morajo delovati hkrati. Tehnično-informacijska zagotavlja, da informacija sploh pride do naslovnika – jasno, razumljivo, pravočasno. Organizacijsko-pragmatična skrbi, da so procesi zasnovani tako, da komunikacija sploh ima prostor – da ni le stranska posledica postopkov, ampak tudi njihov sestavni del. Etično-reflektivna zahteva, da vsaka odločitev, ki jo posreduje algoritem, ostane razložljiva in izpodbojna – da nekdo zanjo odgovarja.

Lažje do knjige, težje do dobre knjige

Človeško-empatijska pa vztraja pri tem, kar je najtežje avtomatizirati in najlažje opustiti: pri zmožnosti, da v sogovorniku prepoznamo človeka, ne le profil. Nobena od teh dimenzij sama po sebi ni dovolj. Sistem, ki je tehnično brezhiben, a etično neviden, ni komunikacija – je upravljanje. Organizacija, ki komunicira empatično, a brez strukture, ne zdrži pritiska. Model deluje samo, če deluje celotno.

To ni utopija. Je minimalni pogoj za to, da komunikacija sploh ostane komunikacija – in ne postane zgolj sistem upravljanja pozornosti.

Rešitev torej ni zavračanje tehnologije. Umetna inteligenca je lahko izjemen sogovornik – pomaga strukturirati misel, postavlja vprašanja, širi perspektivo. A le pod enim pogojem: da imamo dovolj znanja, da njene odgovore preverjamo, jih beremo kritično in jih znamo postaviti v negotovost. Brez tega ne krepi naše presoje – nadomešča jo.

Protokoli, ki naj bi urejali uporabo umetne inteligence v organizacijah, pogosto obstajajo bolj zato, da so, kot zato, da bi imeli učinek. A tudi najboljši protokol ne nadomesti posameznika, ki zna razmišljati. Brez znanja, brez sposobnosti povezovanja in brez intelektualne širine – ki jo gradimo z branjem, izkušnjo in razmislekom, ne le z delom – bomo težko sobivali z novimi tehnologijami. Prej se jim bomo podredili.

Od kod prihaja odgovor

Po petih letih raziskovanja tega področja sem prepričana o enem: vprašanje ni, ali bomo umetno inteligenco uporabljali. To je že odločeno. Vprašanje je, ali bomo ohranili sposobnost, da razlikujemo med tem, kar zveni prepričljivo, in tem, kar je zares razumljeno.

Dislektik z odličnim potencialom, zavrnjen, ker je algoritem prebral napačno črkovanje. Izkušen strokovnjak, izločen, ker njegova poklicna pot ne ustreza vzorcu, ki se ga je sistem naučil v preteklosti. Objava, ki je ni nihče zares napisal in je nihče zares ne bo bral. Odločitev, ki jo je sprejel sistem, ki ga nihče ne zna razložiti.

Vzorec je isti v vseh primerih. Pridobili smo učinkovitost. Izgubili smo sogovornika. In brez sogovornika komunikacija ne obstaja – obstaja le še sistem.

***

Petra Mišič, doktorica s področja organizacije ter menedžmenta kadrovskih in izobraževalnih sistemov.

Prispevek je mnenje avtorja in ne izraža nujno stališča uredništva.