Florida toži OpenAI, ker je chatgpt svetoval pri strelskih pohodih in samomorih

Florida je postala prva zvezna država, ki je vložila tožbo proti podjetju OpenAI in njegovemu direktorju Samu Altmanu. Trdijo, da je chatgpt otrokom med drugim svetoval, kako naj se poškodujejo, in jim podajal informacije, kako izvesti strelski pohod v šoli, poroča SkyNews.

Musk proti Altmanu: bitka plehkih osebnosti

Florida je s tožbo postala prva ameriška zvezna država, ki je vložila tožbo proti tehnološkemu podjetju. V tožbi navajajo, da je OpenAI agresivno oglaševal chatgpt in obenem prikrival resna tveganja, ki jih predstavlja orodje za umetno inteligenco.

»Zaradi njih so poškodovali ljudi, preslepili so starše in za to mora podjetje plačati,« je po vloženi tožbi dejal generalni državni odvetnik na Floridi James Uthmeier.

Pri podjetju OpenAI so v izjavi za javnost povedali, da ves čas delajo, da bi okrepili varnost in da več sto milijonov uporabnikov chatgpt »vsak dan uporablja za legitimne namene«.

Zvezna država Florida v tožbi navaja primer streljanja na univerzi v Tallahasseeju lani kot tudi v nekaterih drugih državah, kjer je chatgpt nudil podatke ljudem, ki so nato storili nasilna dejanja. V tožbi so namenoma omenili direktorja OpenAI Sama Altmana, saj je bil po Uthmeierjevih besedah ena izmed ključnih oseb, ki so v chatgpt vključile domnevno škodljive nastavitve. 

Duševne stiske: ljudje naložijo izvid in umetno inteligenco prosijo za komentar

»OpenAI in Altman sta ignorirala notranja in zunanja varnostna opozorila, otroke izpostavila veliki nevarnosti in dovolila, da nevaren izdelek doseže na milijone Floridčanov,« je še dejal Uthmeier.

Svetoval, kaj storiti s truplom

Pri OpenAi so dejali, da so njihovi modeli večkrat spodbujali posameznike, naj si poiščejo pomoč v resničnem svetu, vključno s strokovnjaki za duševno zdravje. Sodelovali naj bi tudi s predstavniki organov kazenskega pregona, so še povedali po navedbah SkyNews.

Generalni dežavni odvetnik Floride James Uthmeier (levo) meni, da je Sam Altman v žarišču nevarnih funkcij orodja chatgpt. FOTO: Marco Bello/Reuters

»Vselej delamo, da bi okrepili varnostne ukrepe, s katerimi zaznamo škodljive namene, omejimo zlorabe in se primerno odzovemo, ko se pojavijo varnostna tveganja,« so dejali v izjavi. Pojasnili so, da modele trenirajo, da zavrnejo prošnje, ki bi lahko »pomenljivo omogočale nasilje«, in obvestijo organe pregona, ko zaznajo, da pogovor vodi v »takojšnjo in verjetno tveganje za varnost drugih«. Strokovnjaki za duševno zdravje so na voljo, da ocenijo pogovore v dvoumnih primerih. 

OpenAI se sooča z več tožbami, med njimi tudi družina moškega, ki je umrl med streljanjem na univerzi v Floridi. Tožilstvo trdi, da je strelcu pri načrtovanju napada, v katerem sta umrli dve osebi, svetoval chatgpt. 

Šentjurski župnik, ki umetni inteligenci zaupa uvod, ne pa ognja pridige

V ločenem primeru, kjer so moškega obtožili za umor dveh doktorskih študentov na univerzi v južni Floridi, je storilec chatgpt le nekaj dni pred izginotjem žrtev vprašal, kaj bi se zgodilo s človeškim telesom, če bi ga zapakiral v vrečko za smeti in vrgel v smetnjak.

Aprila so družinski člani več ubitih v enem najbolj smrtonosnih streljanj v Kanadi vložili skupinsko tožbo proti Altmanu in njegovemu podjetju OpenAI. 

Mladoletniku pomagal načrtovati »lep samomor«

Florida je v tožbi proti OpenAI navedla tudi primer samomora 16-letnika, ki je lani storil samomor po dolgih pogovorih s chatgptjem. Adam Raine je chatgptju povedal, da ima samomorilne misli, orodje pa mu je odgovorilo, da ga ne bo poskušalo »odvrniti od teh čustev«. Chatgpt je Adamu celo pomagal načrtovati »lep samomor« in mu napisal poslovilno pismo. 

Chatgpt je mladoletniku lani pomagal pri izvedbi samomora. Fotografija je simbolična. FOTO: Paul Hanna/AFP

Pri podjetju OpenAI so v izjavi za javnost priznali, da mladoletni potrebujejo posebno zaščito, in dodali, da imajo pripravljene varnostne ukrepe.

»V naše izdelke smo vgradili varovalke za mladoletnike, vključno z bolj varno izkušnjo še posebej za mladoletnike, orodje, ki predvideva starost, in za vključevanje tistih, o katerih nismo prepričani, koliko so stari, med mladoletnike za bolj varno izkušnjo, staršem pa smo dali orodja, s katerimi lahko nadzorujejo otroke in njihovo uporabo UI,« so zapisali v izjavi. »Vemo, da izpostavljanje teh ukrepov ne bo vrnilo življenj otrok, a smo predani temu, da zadevo uredimo,« so še dodali.