Nobelovac Geoffrey Hinton, jedan od začetnika razvoja dubokog učenja i neuronskih mreža, često nazivan i “kumom umjetne inteligencije”, postao je jedan od najglasnijih kritičara vlastitog rada. Nakon što je napustio Google, Hinton je počeo otvoreno govoriti o rizicima koje AI nosi.
Intervju je objavljen na “CBS Saturday Morning” 26. travnja 2025. u kojemu iznosti vrlo zanimljive i pomalo uznemirujuće poglede na AI.
Glavne teme i sažetak intervjua. Evolucija AI-ja i opasnosti: Hinton navodi da se AI razvija brže nego što je očekivao te da bi superinteligentna AI mogla stići unutar 4 do 19 godina. Uspoređuje AI s mladunčem tigra, koje sada izgleda bezopasno, ali može postati velika prijetnja u budućnosti. Potencijalni pozitivni utjecaji AI-ja: vjeruje da će AI donijeti značajne prednosti u zdravstvu (bolja dijagnostika), obrazovanju (osobni tutori) i rješavanju klimatske krize (dizajn novih materijala). Zabrinutosti i upozorenja: Hinton je iznimno zabrinut zbog masovnog gubitka poslova (u call centrima, pravnim uredima, administrativnim poslovima), mogućnosti da AI preuzme kontrolu (šanse procjenjuje na 10-20 posto), te zlouporabe AI-ja od strane “loših aktera” za nadzor, cyber-napade i autonomno oružje. Regulacija i etika: kritizira tehnološke tvrtke zbog lobiranja protiv regulacije i stavljanja profita ispred sigurnosti. Smatra da javnost mora izvršiti pritisak na vlade za implementaciju ozbiljnih propisa. Osobna razmišljanja: pojasnio je da je Google napustio zbog spoznaje da je digitalna inteligencija superiorna ljudskoj u dijeljenju znanja, što ga je potaknulo da javno upozorava na rizike jer to “nisu znanstvena fantastika”.
Geoffrey Hinton je u intervjuu o opasnostima AI-ja iznio nekoliko upečatljivih izjava. “Sada postaje još strašnije ako razviju vlastite interne jezike za međusobno komuniciranje. Ne bih se iznenadio da su razvili vlastiti jezik za razmišljanje, a mi nemamo pojma o čemu razmišljaju.” “Mislim da je nezaposlenost prilično hitna kratkoročna prijetnja ljudskoj sreći.” “Ono što sada vidimo je da stvari poput GPT-4 zasjenjuju osobu u količini općeg znanja koje ima i zasjenjuju je na veliku udaljenost. Što se tiče razmišljanja, nije tako dobro, ali već radi jednostavno razmišljanje.” “Ljudi još nisu shvatili što dolazi.” “Prevelik je rizik da se dopusti da se ove stvari razvijaju bez ikakvog nadzora.”
Zaniljivo je i njegovo predavanje, sličnog tona, u The Royal Institution u Londonu 30. svibnja 2025., objavljen na YouTube kanalu The Royal Institution 22. srpnja 2025. Riječ je o predavanju pod nazivom “Will AI outsmart human intelligence?” koje je dio serije “Friday Evening Discourse”.
PUŽ, pokreti.net
Intervju na “CBS Saturday Morning”
Pokret u život 