Umetna inteligenca ve, kdo smo, tudi če ji ne povemo našega imena in priimka

Mnogi še vedno verjamejo, da so na spletu anonimni, če platforma ne pozna njihovega imena ali elektronskega naslova. A sodobni algoritmi so bolj sofisticirani. Dovolj so navade, način pisanja, čas uporabe in številni drugi drobci. V dobi umetne inteligence postaja vprašanje, ali si ista oseba kot včeraj, pomembnejše od vprašanja, kdo si.

Razprave o zasebnosti na spletu se večinoma vrtijo okoli piškotkov, sledenja in zbiranja osebnih podatkov. Prevladuje predstava, da je posameznik zaščiten, dokler platforma ne pozna njegovega imena ali elektronskega naslova. Napredek na področju podatkovne analitike, strojnega učenja in umetne inteligence je povzročil premik od neposredne identifikacije k verjetnostnemu prepoznavanju. Platforma morda ne ve, kdo je uporabnik, vendar lahko z veliko verjetnostjo ugotovi, da gre za isto osebo, ki je storitev uporabljala že v preteklosti.

V pogovoru pogosto uporabljamo izraze anonimnost, zasebnost in psevdonimnost kot sopomenke, čeprav ne označujejo iste stvari.

O anonimnosti govorimo, ko posameznika ni mogoče povezati z določeno identiteto. Troli so tipičen primer anonimnosti. Nekdo lahko uporablja stalno identiteto, ki ni njegovo pravo ime. Uporablja psevdonim. Banksy je svetovno znan, osebno pa ga pozna malo ljudi, če uporabim primer, ki ni s spleta.

Piškotki so bili dolgo glavni način spletnega sledenja. Danes sistemi uporabijo veliko širši nabor podatkov: ločljivost zaslona, različico operacijskega sistema, jezikovne nastavitve, časovne vzorce uporabe in številne druge značilnosti. Podobno kot prstni odtis tudi digitalni profil ni sestavljen iz ene same lastnosti, temveč iz številnih podrobnosti, ki skupaj tvorijo celoto.

Če nekdo vsak večer bere podobne vrste novic, uporablja isti telefon, dostopa do storitve ob podobnih urah in piše v značilnem slogu, lahko sistem sklepa, da gre za isto osebo, tudi če se nikoli ne prijavi z imenom in priimkom. Pred desetletjem bi takšno prepoznavanje brez imena zvenelo kot znanstvena fantastika, danes pa je del vsakdanjega delovanja digitalnih storitev.

Ljudje v jeziku puščamo sledi, ne da bi se zavedali. Razvijemo značilen način izražanja, ki se kaže v besednjaku, dolžini stavkov, rabi ločil in značilnih frazah. Med seboj se razlikujemo tudi po strukturi argumentacije in temah, ki nas zanimajo. Strokovnjaki so razvili stilometrične metode za ugotavljanje avtorstva besedil. Kar je bilo nekoč domena literarne analize in forenzike, je danes mogoče izvajati v velikem obsegu s pomočjo umetne inteligence.

Veliki jezikovni modeli so močno orodje za prepoznavanje vzorcev v ogromnih količinah podatkov. Ponavljajoče se teme, slogovne značilnosti, dolgoročni interesi in vedenjske rutine omogočajo, da model ugotovi, da dva vzorca verjetno pripadata isti osebi, ne da bi vedel, kdo ta oseba je. V praksi je to pogosto dovolj za oglaševanje, priporočilne sisteme, preprečevanje zlorab ali odkrivanje goljufij. Pomembnejša je kontinuiteta identitete kot njeno pravo ime.

Tradicionalni pogled na zasebnost se osredotoča na vprašanji: Ali vedo moje ime? Ali imajo moj naslov? Sodobni pristop je drugačen: Kaj lahko sklepajo iz vseh podatkov skupaj? Podobno kot pri sestavljanki posamezni koščki sami po sebi ne povedo veliko, sestavljeni skupaj pa ustvarijo prepoznavno sliko.

Moč sodobnih platform ne izvira iz posameznega podatka, temveč iz sposobnosti povezovanja ogromnega števila na videz nepovezanih podatkovnih točk. Sposobnost oblikovanja statističnih identitet zato ni enakomerno porazdeljena, temveč se koncentrira tam, kjer se zbirajo podatki, računska moč in algoritmi.

Evropska zakonodaja je z GDPR uvedla pomembna načela, ki omogočajo varstvo zasebnosti. Odprto pa ostaja vprašanje, kako učinkovito je mogoče regulirati sklepanje. Zbiranje podatkov je mogoče omejevati, bistveno težje pa je omejiti nove informacije, ki jih sistemi iz teh podatkov izpeljujejo.

Raziskave kažejo, da je mogoče iz digitalnih sledi napovedovati določene osebnostne lastnosti, preference in vedenjske vzorce, ki se jih posameznik morda niti ne zaveda. Zato številni raziskovalci menijo, da bo prihodnja razprava o zasebnosti vse manj povezana s samimi podatki in vse bolj s sklepanjem in profiliranjem.

Vedno večja raba umetne inteligence odpira tudi globlje vprašanje: če lahko sistem prepozna osebo brez njenega imena, ali to pomeni, da jo je identificiral?

Tradicionalno identiteto razumemo kot nekaj, kar je povezano z imenom, obrazom ali uradnim dokumentom. Algoritmi delujejo drugače, zanje je identiteta skupek stabilnih vzorcev. Nastaja nova oblika identitete: statistična identiteta. To ni oseba, kot jo razumeta pravo ali družba, temveč verjetnostni model osebe.

Digitalna zasebnost ni več zgolj vprašanje skrivanja osebnih podatkov. Vedno bolj postaja vprašanje nadzora nad vzorci, ki jih ustvarjamo z vsakodnevno uporabo tehnologije. Piškotki so bili šele prvi korak, zdaj se prepoznavanje opira na kompleksne kombinacije vedenja, jezika, zgodovine in konteksta.

Ključno vprašanje prihodnosti zato morda ne bo, ali sem anonimen, temveč, koliko moje identitete je mogoče rekonstruirati iz sledi, ki jih puščam za seboj, in kako lahko nekdo to uporabi, da vpliva name.

Odgovor na to vprašanje bo pomembno oblikoval razmerje med posameznikom, tehnologijo in družbo.

***

Robert Možina, računalniški strokovnjak

Prispevek je mnenje avtorja in ne izraža nujno stališča uredništva.