Ali smo na robu neobvladljive umetne inteligence?

Zadnje tedne spremljamo alarmantne izjave šefov (in nekdanjih zaposlenih) tehnoloških velikanov okoli umetnih inteligenc (UI), češ da so se modeli »strgali z verige« in postali »prepametni« ter da je zdaj vendarle skrajni čas, da zategnejo ročno zavoro pri njihovem razvoju. Drži, pa vendar, je v ozadju še kaj drugega? Jacob Coxon, nekdanji zaposleni pri Anthropicu, ki ga najbolj poznamo po modelu claude, je dejal, da so ustvarjalci UI resnično zaskrbljeni za usodo človeštva v prihodnjih dveh letih. V izjavah je govoril celo o izumrtju človeštva zaradi UI (če že ne zaradi podnebne krize!). Nato je olje na ogenj prilil še vodja Anthropica Dario Amodei, ki je v spletnem eseju zapisal, da razvoj umetne inteligence ni v negotovosti, vendar so tveganja, povezana z njo, »resna« in da je treba ...