Deur Toby Shapshak
Die “godfather van KI (Kunsmatige intelligensie)” het pas uit sy pos by Google bedank, en waarsku teen “angswekkende” gevare wat KI inhou. Moet ons besorg wees?
Die vraag is retories. Na etlike maande se betowering deur die magte van genertiewe KI chatbots, het die wêreld wakker geskrik met die bewuswording dat KI so skadelik kan wees soos wat dit in wetenskapsfiksie uitgebeeld word.
“Ek wil praat oor AI se veiligheids-kwelvrae sonder om die uitwerking daarvan op Google se besigheid in ag te neem,” het Geoffrey Hinton aan die MIT Technology Review gesê, ter verduideliking van sy bedanking. “Terwyl Google my betaal, kan ek dit nie doen nie.”
Dit is ’n uitsonderlike toonbeeld van etiek en integriteit, waaruit die tegnologiebedryk kan leer – veral ten opsigte van nederigheid.
Die 75-jarige Hinton is ’n KI-baanbreke, as skepper van die eerste neurale network in 2012 by die universiteit van Toronto, wat die grondslag vir KI gelê het. Die Brit, wat ’n doktorsgraad in KI by die Universiteit van Edinburgh verwerf het, het 50 jaar lank in sy ontluikende kundigheidsveld gewerk, onder meer aan Google se eie generatiewe chatbot genaamd Bard.
Hy word aangeprys vir sy rol as “godfather van KI”. Hy het die Turing-prys in 2019 gewen – vernoem na rekenaar-baanbreker Alan Turing – wat gelyk gestel word aan die Nobelprys. Sy insigte is van onskatbare waarde
“Dit is moeilik om the sien hoe jy kan keer dat mense met bose bedoelings dit vir bose dinge gebruik,” het hy aan The New York Times gesê. Sedert ’n stortvloed video’s, beelde, fliekvoorskoue en vals modeskoue met karakters uit Harry Potter oral opgeduik het, is die potensiaal vir geloofwaardige misbruik van die tegnologie onmiskenbaar.
Hinton sê hy berou die rigting waarin sy werk neig. “Ek troos myself met die gewone verskoning: As ek dit nie gedoen het nie, sou iemand anders.”
Hinton is nie die enigste een wat waarsku teen die onstuitbare magte wat ChatGPT en soortgelyke programme ten toon stel nie, onder meer deur die Captcha-stelsel te omseil, wat verbruikers toelaat om aan webwerwe te bewys hulle is nie sagtewate-robotte nie.
In Maart het ’n groep van 1 000 invloedryke KI-navorsers, ingenieurs en beleggers – wat OpenAI se mede-stigter Elon Musk insluit – in ’n ope brief aanbeveel dat daar teruggestaan word van die “gevaarlike wedloop om al groter onvoorspelbare modelle met ontluikende vermoëns” te skep.
Moet ons besorg wees? Ongetwyfeld.
* Shapshak is hoofredakteur van Stuff.co.za en uitvoerende direkteur van Scrolla.Africa.
