Tiskane izdaje
Elon Musk, eden najvidnejših tehnoloških pionirjev, snovalec spletnega bančništva PayPal, električnih vozil Tesla, vesoljske agencije SpaceX in transportnega sistema Hyperloop, je na twitterju leta 2014 zapisal: »Z umetno inteligenco moramo biti izjemno previdni. Morda je nevarnejša od atomskih bomb.« Ob tem je v branje priporočil knjigo Superinteligenca, ki jo je napisal švedski filozof Nick Bostrom. Leta 2015 se je peticiji – opozorilu pred morebitno superinteligenco – pridružilo nekaj najbolj znanih svetovnih mislecev in razvojnikov od Stephena Hawkinga do Billa Gatesa.
Nevarno boljša od ljudi
Izraz »superinteligenca« označuje umetno inteligenco, ko postane močnejša kot ljudje v širšem smislu, ne samo na nekaterih področjih. Danes zna umetna inteligenca premagati človeka v praktično vseh simbolnih igrah od šaha do goja, zna varneje voziti avto kot ljudje, zna sama operirati ali prepoznati rakavo tkivo, zna bolje kot ljudje izmenjevati organe itd., ne zna pa početi enega in drugega hkrati in nima vrste naprednih človeških lastnosti kot zavest, semantiko ali kvalio.
Že opazovanje rasti opravil, kjer umetna inteligenca prekaša človeka, kaže, da smo od pojava superinteligence oddaljeni le nekaj desetletij. Ocena je, da je verjetnost superinteligence čez dve desetletji 50-odstotna. Poglejmo napredek v igranju iger: leta 1997 je program premagal najboljšega šahista, leta 2016 pa najboljšega igralca goja. V šahu je 10.120 (10 na 120) možnih iger, v goju 10.800 (10 na 800). Ker je atomov v vesolju »le« 1080 (10 na 80), je možnih iger v goju 10.720 (10 na 720)-krat več kot atomov v vesolju.
Googlov program umetne inteligence, ki je kombiniral več vrst učenja, tudi globoke nevronske mreže, se je naučil pretežno iz igranja sam s sabo. Ni prehudo pričakovati, da bo računalnik pri preiskovanju čez 20 let ponovno napredoval za faktor 10.680 (10 na 680), kot je preskok s šaha na go. Nepredstavljivo!
Ena velesila ali množica
Bostromova knjiga je ena najboljših predvidevanj o možnih oblikah in posledicah superinteligence. Njena osnovna moč bo temeljila na treh osnovnih virih: izredna hitrost, kolektivnost (kot borg v znanstvenofantastičnih filmih; iz manj inteligentnih delov), kvaliteta razmišljanja – najverjetneje pa bo kombinacija omenjenih treh komponent. Glede oblike bo spet nekaj možnosti: ena sama entiteta, kolektivna-integrirana (borg), distribuirana kot množica ne tesno sodelujočih agentov. S tem bo povezana številčnost: lahko bo samo ena, kot je en internet ali ena Zemlja, lahko jih bo nekaj, bolj ali manj globalnih, kot je v svetu nekaj velesil, lahko pa jih bo velika množica.
Splošno sprejeto je, da je daleč najbolj nevarna ena sama globalna superinteligenca, ki se zaplete v spor s človeško civilizacijo, nima vnesenih pozitivnih vrednot in ima možnost upravljanja z orožji. Elon Musk zato spodbuja nastanek več superinteligenc s projektom OpenAI in se boji, da bo Google razvil tisto eno samo. Google na to odgovarja, da je razvil »rdeči gumb« za prisilno ustavitev neposlušne umetne inteligence. Večina stroke in svetovnih mislecev opozarja vlade, da ne smemo dovoliti razvoja sovražne superinteligence, zato je treba prepovedati avtonomna orožja. Veliko strokovnih združenj, nacionalnih in globalnih, se je povezalo v gibanju StopKillerRobots in prek OZN in nacionalnih vlad poskuša doseči prepoved. Štiri slovenska združenja (Slovensko društvo za umetno inteligenco, Društvo za kognitivno znanost, Slovensko društvo Informatika, ACM Slovenija) so podpisala peticijo in jo poslala na OZN in na slovensko vlado. Za zdaj brez nacionalnega odziva politikov ali medijev.
Sum: civilizacije
O nevarnosti glede pojava ene same globalne superinteligence smo že pisali, druga velika nevarnost pa je povezana s Fermijevim paradoksom: po Drakovi enačbi bi morali že zdavnaj vzpostaviti stik z drugimi civilizacijami. Zato obstaja precejšen sum, da so civilizacije kratkotrajnega veka, da nekaj povzroči propad.
V analogiji: če imamo sedem celin in na eni civilizacija nazaduje ali propade, se bodo ostale razvijale naprej. Če pa je ves svet ena sama globalna vas, v primeru propada ni rešitve za celotno civilizacijo. Zato bi veljalo procese globalizacije veliko skrbneje in bolj integralno obravnavati. Zato želi Elon Musk v roku nekaj desetletij na Mars prepeljati nekaj deset tisoč ljudi.
Preskok v nesluteno
Strokovno je jasno, da bo do sovražne superinteligence prišlo le v primeru serije napak svetovnih politikov. Velika večina vseh možnih scenarijev pojava superinteligence je povsem drugačna, optimistična. Ray Kurzweil, recimo, pravi, da bo superinteligenca omogočila preskok v novo civilizacijsko obdobje, nekaj neslutenega do zdaj.
Ne bo šlo samo za izreden tehnološki preskok, potovanja na druge planete in v vesolje, človeštvo se bo tudi socialno prelevilo v nekaj nam nerazumljivega, ker takšnih možnosti napredka in blaginje človeštva, družbe in posameznikov še nismo imeli. Denimo na nivoju posameznika bomo lahko individualno in lokalno spreminjali svojo genetsko osnovo in si s pomočjo nanorobotkov npr. predelali nos v lepšo obliko.
Pomembneje kot polepševanje je to, da bomo iztrebili vse bolezni, lahko bomo izboljšali miselne sposobnosti ali značaj, znali se bomo pomladiti, postati celo (skoraj) nesmrtni. Večina omejitev, ki velja danes, bo po pojavu superinteligence kmalu postala lanski sneg.
Več razuma in razumevanja
Morda bo kdo pomislil, da glede na vse demografske in neoliberalne probleme ali rastočega prepada med elitami in rajo drvimo nazaj, in ne naprej. Najbrž je bolj verjetno, da se v nekem smislu naša družba »trga« v prihajajoči točki singularnosti (singularnost označuje prelom).
Kaj to pomeni za Slovenijo? Predvsem moramo dati večjo težo znanju, razumu, razumevanju in kvalitetnemu upravljanju.
Tako kot svetovna se niti slovenska politika in javnost ne znata priključiti (pre)hitremu razvoju, niti ga ne poznata dobro. Pomembno je razumeti trende razvoja, še nekaj desetletij vztrajati in potem bo superinteligenca ključno pomagala pri reševanju problemov. Večina strokovnjakov umetne inteligence si prizadeva, da se superinteligenca pojavi čim prej, saj je to jamstvo za rešitev človeške civilizacije, preden se uniči sama.
Dr. Matjaž Gams
član Inženirske akademije Slovenije
––––––
Prispevek je mnenje avtorja
