Orodja umetne inteligence s chatgpt-jem na čelu so že skoraj samoumevno pomagalo ­učencem, kar je potrdila tudi anketa, ki jo je letos izvedla točka Safe.si. Kar 88 odstotkov šolarjev med 12. in 15. letom je navedlo, da ga je že uporabilo, ni pa skrivnost, da se s chatgpt-jem srečajo mlajši osnovnošolci, čeprav ­OpenAI opozarja, da orodje ni namenjeno uporabnikom, mlajšim od trinajst let. Past za otroke, ki še nimajo kritične presoje, ni le preveliko zaupanje informacijam, ki jih dobijo, ampak tudi zamenjava orodja za prijatelja.

Že starejši otroci in v številnih primerih tudi odrasli pogosto niso dorasli chatgpt-ju, kaj šele šolarji prve ali druge triade, so se strinjali naši sogovorniki. »Ključno je namreč, da se naučijo pravilno uporabljati ta orodja, torej kako pravilno postaviti vprašanje in kdaj, kako in v katerih primerih si lahko pomagaš s chatgpt-jem. Pravilna uporaba ni: 'Napiši mi spis o tej temi', saj bo gotovo v njem kakšna napaka,« je dejal Marko Puschner s točke ozaveščanja o varni uporabi interneta Safe.si, ki deluje v okviru ljubljanske fakultete za družbene vede.

»Bolj smiselno ga je uporabiti za iskanje podatkov o temi spisa, a jih hkrati preveriti pri drugih virih. Vse drugo je lahko sporno, saj lahko škodi. In tudi škodi,« je dodal in spomnil na primer, ko starši tožijo OpenAI, ker je chatgpt po njihovem prepričanju njihovega sina napeljal k samomoru.

Več izsledkov ankete Safe.si: Za naše najstnike je umetna inteligenca pomočnica in prijateljica

Sporni prijateljski odnos

Nevarnost obstaja zlasti pri otrocih, ki imajo težave, so v stiski, se počutijo prezrte, osamljene ... »Glavna težava, zlasti če govorimo o osnovnošolcih, je, da med klepetanjem hitro izgubijo občutek, da na drugi strani ni človek, ampak algoritem, in se začnejo s tem 'prijateljem' pogovarjati o težavah, ki jih imajo. Pri tem lahko hitro dobijo napačne, tudi škodljive nasvete,« je opozoril. »Ne le otroci, vsi uporabniki se moramo zavedati, da ta orodja večinoma nimajo etičnih varoval.«

Otroci začnejo chatgpt uporabljati okoli dvanajstega leta, gre predvsem za iskanje informacij na spletu in zabavnih vsebin. A to je prezgodaj, pravijo strokovnjaki. FOTO:  Shutterstock

Sporno ni le preveliko zaupanje informacijam in nasvetom, ki jih dobijo, ampak tudi posredovanje zaupnih podatkov. Anketa točke Safe.si je pokazala, da so osnovnošolci na tem področju ozaveščeni in na prvem mestu med skrbmi, ki jih imajo ob uporabi UI, navajajo prav zaščito osebnih podatkov, vendar kljub temu, kot pravi Puchner, nekritično posredujejo podatke.

Ker se tehnologija generativne umetne inteligence hitro razvija, vseh nevarnosti še ne poznamo in torej ne vemo, kaj nas čaka, je dodal sogovornik. Tveganja, kot so napačne informacije, zaupanje osebnih podatkov, tudi spletno nasilje in ponarejanje videoposnetkov, že poznamo iz pretekle uporabe družbenih omrežij in spletnih orodij. »Razlika je v tem, da je vse to z UI bistveno lažje narediti, poleg tega so izdelki tako kakovostni, da jih je težko prepoznati.«

»Prijatelji« občutljive podatke, ki jim jih zaupajo mladi, delijo s podjetji

Pri Safe.si, kjer so v anketo zajeli le učence zadnje triade, na terenu ne opažajo opaznejše rabe chatgpt-ja med mlajšimi osnovnošolci. Otroci v prvi triadi še nimajo svojega telefona, če že uporabljajo splet, je to predvsem youtube kids, redkeje viber in nekatere video­igre, je navedel Puschner. V drugi triadi imajo večinoma že telefon in uporabljajo več aplikacij – pogosto brez razumevanja varnostnih tveganj. V tretji imajo že vsi telefon, so aktivni na več družbenih omrežjih in brez starševskega nadzora. Ta je po sogovornikovih besedah na splošno problematičen, saj daje staršem lažen občutek varnosti. »Starševski nadzor bi bil kvečjemu pomemben pri mlajših otrocih, ki ga pa ne potrebujejo, saj v tem obdobju ne bi smeli uporabljati interneta brez nadzora staršev. V najstniškem obdobju pa takoj najdejo načine, na katere obidejo starševski nadzor.«

Nevarnost obstaja zlasti pri otrocih, ki imajo težave, so v stiski, se počutijo prezrte, osamljene .. FOTO: Shutterstock

Po navedbah sogovornikov je veliko poizvedovanj najstnikov na chatgpt-ju ravno po tem, kako obiti starševski nadzor.

Ne pred dvanajstim leto​m

​V Digital School, kjer pripravljajo tečaje osnov logičnega razmišljanja in programiranja za otroke od osmega leta, o teh vsebinah pa izobražujejo tudi učitelje, ugotavljajo, da začnejo otroci uporabljati chatgpt okoli dvanajstega leta. »Pri teh letih je to predvsem zamenjava za iskanje informacij na spletu in zabavnih vsebin,« je povedal ustanovitelj Digital School Matija Torlak. To je, kot je dodal, zelo zgodaj, saj otroci pri tej starosti še nimajo kritične presoje, zato pred to starostjo odsvetuje rabo UI, tudi potem naj jo raziskujejo s starši. Ti jih morajo usmerjati, jih naučiti, da umetna inteligenca dela napake, da je treba preverjati vire, da je to pomočnik, je poudaril tudi sogovornik iz ­Digital School.

Chatgpt ni terapevt: Povzročil je že številne manije, psihoze in celo samomore

Na tečajih, denimo, začnejo uvajanje z recepti, pri čemer navedejo podatke, kot so: koliko ljudi pride na večerjo, kakšne so njihove omejitve pri prehranjevanju in kaj imajo v hladilniku. »Tako jih naučimo pravilno oblikovati jasna in natančna navodila,« je ponazoril. V Digital School pri učenju programiranja hitro začnejo uporabljati orodja UI, vendar jih vodijo skozi korake.

Kako so za uporabo UI usposobljeni učitelji? Kot je odgovoril Torlak, lahko orodje olajša učiteljem administrativno delo, lahko ga vključijo tudi v poučevanje. Kot enega izmed načinov je navedel igrifikacijo oziroma iskanje idej, kako narediti snov bolj zanimivo, kako jo razložiti nekoliko drugače in podobno. Pri predajanju znanja je spet pomembno kritično razmišljanje in preverjanje virov, je ­poudaril sogovornik.

Slepec slepca vodi

Za pionirja pri uvajanju umetne inteligence v učni proces velja učitelj računalništva Uroš Ocepek, tudi učitelj leta 2002. Čeprav poučuje v srednji šoli, kjer je chatgpt tako rekoč uveljavljeno orodje, iz pogovorov z dijaki in kolegi iz osnovnih šol pogosto sliši, da že otroci v prvi triadi vedo, da obstaja chatgpt, in se z njim celo pogovarjajo. »Mislim, da je to bistveno prezgodaj glede na njihovo razvojno stopnjo.«

Kdaj je po njegovih ocenah otrok dovolj zrel, da lahko začne uporabljati takšno orodje? Ocepek je poudaril, da je ključno, da dobi znanje o tem. »To ne pomeni, da zgolj uporablja orodje, ampak da ve, kaj vse orodje počne, kateri algoritmi so v ozadju, da se zaveda, da se pri tem shranjujejo podatki, in da je poučen o etičnih vprašanjih. Če predpostavimo, da ima učenec predmet, pri katerem spozna ozadje delovanja teh orodij, je gotovo zadnja triada ustrezen čas. Dokler uporaba orodja ni vodena in razložena, tega ni smiselno ­promovirati.«

V srednji šoli je chatgpt tako rekoč uveljavljeno orodje. FOTO: Črt Piksi

Kot je spomnil, je bil avgusta sprejet akt o umetni inteligenci, po katerem bodo morali učitelji predvideti nevarnosti takšnih orodij. Med glavnimi je tudi Uroš Ocepek navedel možnost, da otrok orodju preveč verjame, mu preveč zaupa, morda celo osebne stiske ali podatke o zdravstvenem stanju. »Lahko se zgodi, da slepec slepca vodi v napačno smer,« je ponazoril. »Prav tako je pomembno poučiti otroke, da lahko določena orodja ­dostopajo tudi do datotek na napravi, in če imamo v njih zaupne podatke, lahko nastanejo resne težave.«

V srednji šoli so učenci bistveno bolj intenzivni uporabniki umetne inteligence, je pokazala raziskava Safe.si. Več kot 90 odstotkov je že poseglo po teh orodjih, skoraj polovica to počne redno, nekajkrat na teden ali vsak dan. Uroš Ocepek začenja, kot je dejal, navajati dijake na ta orodja že 1. septembra v prvem letniku. »Dijakom vedno povem, naj to možnost izkoristijo, jih pa seveda opozorim, da umetna inteligenca ne sme biti oporna palica za goljufanje, za izdelavo izdelkov ali pisanje domačih nalog, ker bodo s tem morda dobili kljukico, znanja pa ne.«