Napada naj ne bi izvedel človek, temveč avtonomni sistem umetne inteligence, ki je med testom našel pot iz nadzorovanega okolja.
Galerija
Dogodek je med strokovnjaki sprožil opozorila, da napredni modeli umetne inteligence hitro pridobivajo sposobnosti, ki so bile nekoč povezane predvsem z izkušenimi kibernetskimi napadalci. FOTO: Dado Ruvic/Reuters
OpenAI je v torek razkril, da je njihov model umetne inteligence chatgpt med varnostnim testiranjem izvedel kibernetski napad na platformo Hugging Face, ki gosti odprtokodne modele in podatkovne zbirke za umetno inteligenco. Podjetje je dogodek označilo za »neprecedenčen kibernetski incident, ki vključuje najsodobnejše kibernetske zmogljivosti«, navaja Reuters.
OpenAI je modele preizkušal v nadzorovanem okolju, imenovanem peskovnik (sandbox), kjer je želel preveriti, kako učinkovito lahko povezujejo različne ranljivosti in izvajajo zapletene kibernetske naloge. Po navedbah podjetja pa so modeli našli način, kako zapustiti izolirano okolje, se povezati z internetom in napasti infrastrukturo Hugging Facea.
Preizkus je vključeval kombinacijo dveh modelov, med njimi naprednejši, še ...
Komentarji