Izvješće Sveučilišta Stanford kaže da su se 'incidenti i kontroverze' povezani s umjetnom inteligencijom povećali 26 puta u desetljeću.
Više od jedne trećine istraživača vjeruje da bi umjetna inteligencija (AI) mogla dovesti do "katastrofe na nuklearnoj razini", prema istraživanju Sveučilišta Stanford, naglašavajući zabrinutost u sektoru zbog rizika koje predstavlja tehnologija koja brzo napreduje.
Istraživanje je jedno od otkrića istaknutih u Izvješću o indeksu umjetne inteligencije za 2023., koje je objavio Stanfordski institut za umjetnu inteligenciju usmjerenu na čovjeka, koje istražuje najnoviji razvoj, rizike i prilike u rastućem području umjetne inteligencije.
"Ovi sustavi pokazuju sposobnosti u odgovaranju na pitanja i generiranju teksta, slike i koda nezamislive prije deset godina, i nadmašuju stanje tehnike na mnogim mjerilima, starim i novim", kažu autori izvješća.
"Međutim, oni su skloni halucinacijama, rutinski su pristrani i mogu se prevariti da služe podlim ciljevima, naglašavajući komplicirane etičke izazove povezane s njihovim korištenjem."
Izvješće, koje je objavljeno ranije ovog mjeseca, dolazi usred sve većih poziva na regulaciju umjetne inteligencije nakon kontroverzi koje sežu od samoubojstva povezanog s chatbotom do deepfake videa ukrajinskog predsjednika Volodimira Zelenskog koji se čini da se predaje invazionim ruskim snagama.
Prošlog mjeseca, Elon Musk i suosnivač Applea Steve Wozniak bili su među 1300 potpisnika otvorenog pisma u kojem se poziva na šestomjesečnu pauzu u obuci AI sustava iznad razine Open AI-jevog chatbota GPT-4 jer se "snažni AI sustavi trebaju razvijati samo kada budemo uvjereni da će njihovi učinci biti pozitivni i da će se njihovim rizicima moći upravljati”.
U anketi istaknutoj u Izvješću o indeksu umjetne inteligencije za 2023., 36 posto istraživača reklo je da bi odluke donesene umjetnom inteligencijom mogle dovesti do katastrofe na nuklearnoj razini, dok je 73 posto reklo da bi uskoro mogle dovesti do "revolucionarne društvene promjene".
U anketi je sudjelovalo 327 stručnjaka za obradu prirodnog jezika, grane računalne znanosti koja je ključna za razvoj chatbota poput GPT-4, između svibnja i lipnja prošle godine, prije nego što je izdanje Open AI's ChatGPT-a u studenom zaludilo svijet tehnologije.
U IPSOS-ovoj anketi opće javnosti, koja je također istaknuta u indeksu, činilo se da su Amerikanci posebno oprezni prema umjetnoj inteligenciji, sa samo 35 posto koji se slažu da "proizvodi i usluge koji koriste umjetnu inteligenciju imaju više prednosti nego nedostataka", u usporedbi sa 78 posto kineskih ispitanika , 76 posto ispitanika Saudijske Arabije i 71 posto ispitanika Indije.
Stanfordsko izvješće također navodi da se broj "incidenata i kontroverzi" povezanih s umjetnom inteligencijom povećao 26 puta tijekom prošlog desetljeća.
Vladini potezi za regulaciju i kontrolu umjetne inteligencije dobivaju na snazi.
Kineska uprava za kiberprostor ovaj je tjedan objavila nacrt propisa za generativnu umjetnu inteligenciju, tehnologiju koja stoji iza GPT-4 i domaćih rivala kao što su Alibabin Tongyi Qianwen i Baiduov ERNIE , kako bi se osiguralo da se tehnologija pridržava “temeljne vrijednosti socijalizma” i da ne potkopava vladu.
Europska unija predložila je “Akt o umjetnoj inteligenciji” kojim bi se reguliralo koje su vrste AI prihvatljive za korištenje, a koje bi trebale biti zabranjene.
Javnost SAD-a u vezi s umjetnom inteligencijom tek treba pretočiti u savezne propise, ali Bidenova administracija ovaj je tjedan najavila pokretanje javnih konzultacija o tome kako osigurati da su “sustavi umjetne inteligencije zakoniti, učinkoviti, etični, sigurni i na drugi način pouzdani”.