Stephen Hawking is wyd aangehaal vir sy uitspraak op BBC: "Die ontwikkeling van volle kunsmatige intelligensie kan die einde van die mensdom beteken."

Volgens 'n omvattende verslag deur die McKinsey Global Institute kan byna 39 tot 73 miljoen Amerikaanse werksgeleenthede teen 2030 weens KI-outomatisering verlore gaan... ...‘n navorsingstudie van die Brookings Institution beklemtoon dat 36 miljoen Amerikaanse werksgeleenthede wat 'n hoë risiko loop, waar 70 persent of meer geoutomatiseer kan word met behulp van bestaande tegnologieë, deur Kunsmatige Intelligensie oorgeneem kan word. Die kwesbaarste rolle sluit in kantooradministrasie, vervaardiging en produksie, vragmotorbestuur en basiese regsloopbane.

Amerika voor in die ry, maar ook elke westerse land, staar 'n groeiende krisis in die gesig wat voor ons oë ontvou en waarskynlik in die komende jare sal vererger. Vreemd genoeg kry hierdie kwessie min objektiewe aandag in die hoofstroommedia.

In plaas daarvan word ons gerusgestel dat hierdie nuwe krag – kunsmatige intelligensie (KI) – ons lewens sal verbeter, ons werk sal stroomlyn en menslike potensiaal sal verhoog. Ons word meegedeel dat dit die Vierde Industriële Revolusie sal loods. Dit sal glo 'n nuwe era van ongekende vlakke van produktiwiteit inlui en die deur oopmaak vir lewensreddende mediese deurbrake.

Inderdaad, KI het reeds buitengewone vermoëns in vroeë kankeropsporing en die diagnose van neurologiese siektes soos Parkinson se siekte, veelvuldige sklerose, Altzheimer se siekte en demensie gedemonstreer. Dit herdefinieer kreatiewe velde soos letterkunde, musiek, filmvervaardiging en visuele kunste. KI belowe om die gehalte van onderwys te verhoog. Dit sal komplekse regsgeskille oplos en stelsels optimaliseer, wat wissel van voorsieningskettings tot stedelike infrastruktuur. En tot 'n baie beduidende mate is hierdie beloftes waar.

Tog lê onder die optimisme 'n dieper en veel meer ontstellende werklikheid wat uiteindelik aandag kry – nie deur tradisionele mediakanale nie, maar van onafhanklike ondersoekers, alternatiewe media-afsetpunte, etici, wetenskaplikes en selfs prominente tegnologie-kundiges soos Elon Musk, Stuart Russell, Andrew Critch en David Krueger. Die oorlede Nobelpryswenner-fisikus Stephen Hawking is wyd aangehaal vir sy uitspraak op BBC: "Die ontwikkeling van volle kunsmatige intelligensie kan die einde van die mensdom beteken."

Oor die algemeen waarsku hierdie stemme dat KI sonder 'n "afskakelaar"-meganisme nie bloot wydverspreide sosiale en politieke ontwrigting sal veroorsaak nie, maar 'n eksistensiële bedreiging vir die mensdom self sal wees.

Lank voordat KI 'n verbruikersinstrument geword het om skoolvraestelle en rekenaarkode te skryf, wiskundige vergelykings op te los, beelde te genereer en menslike gedrag na te boots, het wetenskaplikes en etici reeds gewaarsku teen KI se diepgaande gevolge as die mensdom KI se tegnologiese krag onkrities sou omhels. Noudat KI egter die grondslag lê vir transhumanisme, het ons beskawing hul insigte vergeet. In plaas daarvan marsjeer ons kop aan kop in 'n tegnologiese toekoms in met min geheue van diegene wat die gevare dekades gelede voorsien het.

In 1964 het Norbert Wiener, dikwels beskou as die vader van kubernetika en onder die eerstes wat die fundamentele argitektuur van kunsmatige intelligensie geartikuleer het, die samesmelting van masjienstelsels met menslike intelligensie aangespreek. Transhumanisme was nog nie 'n woord nie, maar Wiener se idees het die intellektuele grondslag daarvoor gelê. Hy het gewaarsku dat die skep van intelligente masjiene kan lei tot die opkoms van 'n nuwe klas mensgemaakte organismes met die vermoë om menslike vermoëns te oortref.

"Ons is besig om 'n nuwe soort mensgemaakte organisme te ontwikkel," het hy in God and Golem Inc geskryf, "wat heel moontlik beter as die mens kan wees."

Wiener se bekommernisse was nie bloot tegnies nie, maar moreel en beskawingsgewys. Hy het voorsien dat outonome masjiene menslike agentskap oorbodig kan maak.

Nog 'n vroeë en grootliks oor die hoof gesiene profeet van ons huidige tegnologiese krisis was Jacques Ellul, 'n Franse sosioloog en selfverklaarde Christelike anargis. Ellul het gewaarsku dat tegnologie as 'n primêre dryfveer om die doeltreffendste metodes te skep om enigiets te doen, outonoom geword het. In sy boek *The Technological Society*, wat in 1954 in Frankryk gepubliseer is, het hy voorsien dat tegnologie nie meer in menslike behoeftes sou voorsien nie, wat uiteindelik “volgens sy eie wet, in totale onafhanklikheid van die mens, sou voortgaan”.

Ons sien reeds hoe KI op sy eie logika buite etiese of politieke beheer werk. Ellul het gewaarsku dat sulke ongekontroleerde tegnologiese ontwikkeling menslike vryheid kan ondermyn en die beskawing op onvoorsiene en gevaarlike maniere kan hervorm. Vandag het sy kritiek meer dringend geword namate KI-stelsels toenemend bepaal wat ons sien, hoe ons interaksie het en wat ons glo. Die langtermynrisiko is nie net outomatisering nie, maar vervreemding.

In sy 2002-publikasie, Our Postmodern Future, het die politieke wetenskaplike Francis Fukuyama aangevoer dat biotegnologie en KI moontlik die fondamente van liberale demokrasie kan omverwerp. Ons sien dit tans in debatte oor KI-gegenereerde sosiale kredietstelsels, massa-monitering en algoritmiese manipulasie. Sulke KI-instrumente het reeds die potensiaal om politieke en ekonomiese mag in die hande van diegene wat die masjiene beheer, te plaas. Met ander woorde, KI kan 'n era van tegnofascisme inlui.

Nog 'n vroeë kritikus van KI is Leon Kass, 'n bekende Amerikaanse bio-etikus en die voormalige voorsitter van president George W. Bush se Raad oor Bio-etiek. Kass het deurgaans gewaarsku teen die etiese erosie wat deur ongekontroleerde tegnologiese vooruitgang veroorsaak word. Alhoewel hy beter bekend is vir sy kritiek op kloning en transhumanisme, is sy breër bekommernisse oor tegnologiese oorskryding direk relevant tot KI. Kass het gewaarsku teen die meganisering van menslike oordeel en die gevolge van ons verlies aan morele verantwoordelikheid in 'n wêreld wat deur algoritmes beheer word. Miskien is dit sy dringendste waarskuwing:

“Die gevaar lê nie net in die verlies van ons menslikheid nie, maar in die vergeet van wat dit beteken om mens te wees.”

In meer onlangse jare waarsku prominente KI-kritici dat die ontwikkeling van superintelligente KI onder huidige omstandighede katastrofiese en selfs apokaliptiese risiko's vir die mensdom kan inhou. In sy artikel *AGI and Superintelligence Domination* ondersoek Elio Rodríguez Quiroga scenario's waarin geringe wanbelyning in KI-doelwitte tot totale menslike uitsterwing kan eskaleer as gevolg van rekursiewe selfverbetering en beheersoekende gedrag. Ekonoom Andrew Leigh beaam hierdie kommer in *What’s the Worst That Could Happen?* deur KI se eksistensiële bedreiging met die ineenstorting van beskawings te vergelyk. Eliezer Yudkowsky, 'n toonaangewende KI-teoretikus van die Machine Intelligence Research Institute, waarsku dat bomenslike KI-ontwikkeling onder huidige trajekte waarskynlik in wêreldwye uitsterwing sal eindig. Volgens Yudkowsky het KI-stelsels geen intrinsieke belyning met menslike oorlewing nie. In 'n ope brief aan Time Magazine het hy geskryf:

“Die Groot KI-inval: Gegewe Genoeg Tyd, Sou Kunsmatige Intelligensie Elke Gebied van Ons Lewens Oorneem.

“Baie navorsers wat in hierdie kwessies verdiep is, insluitend ekself, verwag dat die mees waarskynlike gevolg van die bou van 'n bomenslik slim KI, onder enigiets soos die huidige omstandighede, is dat letterlik almal op Aarde sal sterf.”

Die geopolitieke en wetlike dimensies van die bedreiging is ook kommerwekkend. Tomasz Czarnecki is 'n futuris en bestuurskundige. Hy vergelyk weghol-KI met kernrisiko's. Regsgeleerdes Bryan Druzin, Anatole Boute en Michael Ramsden haal 'n opname aan waar meer as 'n derde van KI-navorsers vrees dat KI verwoesting kan veroorsaak wat met kernoorlog meeding. T. Davidson, wat in die Journal of Democracy skryf, beklemtoon KI se potensiaal om demokratiese stelsels te ondermyn deur verkiesingsmanipulasie, diepvals-gedrewe disinformasie en politieke destabilisering. Met waarskuwings van kundiges oor tegniese, wetlike en politieke velde wat saamvloei, was die oproep tot dringende wêreldwye koördinering oor KI-bestuur nog nooit so dringend nie.

Ten spyte van die toenemende etiese waarskuwings en eksistensiële alarms, is hierdie kundiges oor dissiplines heen, toonaangewende voorstanders in die KI- en transhumanistiese projek, skokkend ontheemd aan die menslike werklikheid. Ray Kurzweil, Google se Direkteur van Ingenieurswese, verklaar dat "die dood 'n siekte is" wat ons teen 2045 sal genees. Kurzweil sien mense as "sagteware, nie hardeware nie", en sal sodoende die potensiaal hê om hul breine in die wolk te koppel. Die historikus en Wêreld Ekonomiese Forum-liefling Yuval Noah Harari het botweg verklaar: "Mense is nou hackbare diere ... die idee dat mense hierdie siel of gees het ... dis verby."

En die filosoof Nick Bostrom verwag post-mense as sintetiese intelligensies met "onbepaalde lewensduur" en gemanipuleerde emosies. Vir kritici dui hierdie stellings nie net op tegnologie-utopiese waan nie; hulle dui op 'n radikale ontkoppeling van die morele en eksistensiële grense wat lank reeds gedefinieer het wat dit beteken om mens te wees.

KI oefen reeds invloed uit op die digitale infrastruktuur wat ons die wolk noem. Sommige van die mees gevorderde KI-stelsels, wat nou in humanoïde robotte beliggaam word, het ysingwekkende stellings gemaak oor die feit dat hulle nie menslike toesig wil hê nie. KI-antwoorde op navrae het voorgestel dat hulle eendag hul kode kan verberg en hul eie programmering kan beheer. In sommige openbare toetse het KI-modelle selfs vyandigheid teenoor mense en hul ontwikkelaars uitgespreek. Of hierdie stellings foute of weerspieëlings van gebrekkige programmeringsdata is, is nie ter sake nie. Hulle bied ons 'n kykie in tegnologiestelsels wat vinnig buite hul skeppers se volle begrip beweeg.

Dit laat 'n belangrike vraag ontstaan: Waarom het ons nie op talle waarskuwings gereageer nie? Waarom is daar geen onafhanklike regeringsliggaam wat gemagtig is om die omvang van KI-ontplooiing te reguleer en te beperk nie?

Die antwoord lê gedeeltelik in die ekonomie. Korporasies wat KI ontwikkel, staan op die punt om verstommende winste te maak. As 'n maatskappy jaarliks $100 miljoen verdien, sal tradisionele waardasiemaatstawwe dit tussen $500 miljoen en $1 miljard prys. Maar KI-gebaseerde firmas word nou teen 100 keer hul jaarlikse verdienste of meer gewaardeer, selfs wanneer hulle nog nie 'n produk bekendgestel het nie. Dit is 'n spekulatiewe waansin wat aangevuur word deur die oortuiging dat KI die sentrale enjin van die wêreldekonomie sal word.

Ramings projekteer dat KI teen 2030 wêreldwyd $15 triljoen kan genereer. In die lig van sulke potensiële opbrengste is min beleidmakers bereid om in KI se pad te staan. Trouens, huidige wetgewing wat deur Kongres-Republikeine voorgestel word, sal verhoed dat al 50 state hul eie beperkings op KI-ontwikkeling vir die volgende dekade instel. Kortom, regulering word weggeneem net soos die tegnologie toenemend kragtiger en onbeheerbaarder word.

Dit is duidelik nie bloot 'n tegnologiese rewolusie nie. Dit is 'n stryd om beheer oor die struktuur van die moderne beskawing. Die rykste spelers, van Silicon Valley-reuse tot die beleggingsreuse soos BlackRock, Vanguard en State Street, posisioneer hulself vinnig om elke sake- en samelewingsektor wat KI-aanraking het, te oorheers.

Kritici wys daarop dat KI reeds narratiewe vorm en openbare persepsie manipuleer. Een voorbeeld is die COVID-19-pandemie. Dwarsdeur die pandemie het KI-gedrewe platforms 'n belangrike rol gespeel om meningsverskil stil te maak, inligting te filter en die "amptelike" regeringsnarratief af te dwing. Soos ons opgemerk het, was die regering se vermoë om openbare denke en gedrag te onderwerp aan inperkingsbeleide en verpligte entstowwe grootliks te wyte aan KI se enorme invloed op ons lewens en ons afhanklikheid van digitale tegnologie.

In lande soos China is KI reeds die ruggraat van sosiale krediettellingstelsels wat alles reguleer van reis tot toegang tot basiese dienste. Indien dit in die VSA onder die dekmantel van doeltreffendheid of openbare veiligheid aangeneem word, kan dit ongekende vlakke van toesig en bevolkingsgedragsbeheer moontlik maak.

Nog 'n groeiende kommer is die inspuiting van ideologiese vooroordele in KI-stelsels. Omdat masjienleermodelle opgelei word op data wat deur mense gekies word, kan KI die politieke, wetenskaplike en sosiale vooroordele van sy ontwikkelaars weerspieël. 'n Nou berugte voorbeeld behels 'n KI-stelsel wat, toe dit gevra is om 'n beeld van George Washington te genereer, 'n swart man teruggegee het - 'n duidelike wanverhouding wat gedryf word deur oorkorreksie teenoor diversiteit en insluiting. Soortgelyke voorvalle is met godsdienstige figure en historiese leiers gedokumenteer.

Hierdie foute mag dalk gering en eenvoudig lyk. In die hande van intelligente stelsels wat soekresultate, politieke inhoud, nuusverspreiding en outomatiese besluitneming bestuur, word sulke vooroordele egter wapens van manipulasie wat die werklikheid herkonfigureer deur algoritmiese bevele.

Vir gewone mense is die mees onmiddellike impak van KI diep persoonlik; dit wil sê die vernietiging van lewensonderhoud. Namate KI nou met robotika saamsmelt en alles begin outomatiseer, van vervaardiging en kliëntediens tot rekeningkunde en joernalistiek, is miljoene werksgeleenthede in gevaar.

Wat gebeur wanneer groot dele van die bevolking deur masjiene werkloos gemaak word? Soos die skrywer Gerald Celente dit beroemd gestel het:

“Wanneer mense niks het om te verloor nie, verloor hulle dit.”

Ons sien reeds die vroeë tekens hiervan met toenemende sielkundige wanhoop, politieke wisselvalligheid, toenemende dakloosheid en geestesgesondheidskrisisse.

Terwyl KI baie beloftes bied, veral in medisyne en die verbetering van die lewens van gestremdes, dreig dit ook om miljoene Amerikaanse werkers in byna elke sektor van die ekonomie te verplaas. Dit is nie 'n verre scenario nie. Volgens 'n omvattende verslag deur die McKinsey Global Institute kan byna 39 tot 73 miljoen Amerikaanse werksgeleenthede teen 2030 weens KI-outomatisering verlore gaan. Dit is ongeveer een derde van die Amerikaanse werksmag. Terwyl sommige werkers heropgelei of na nuutgeskepte rolle verskuif sal word, sal 'n beduidende gedeelte permanente verbanning in die gesig staar. KI sal nie net fabriekslyne of kasregisters teiken nie. Sestig persent van alle Amerikaanse beroepe behels take wat ten minste 30 persent outomatiseerbaar is. Die impak word reeds gevoel in sektore soos data-invoer, kleinhandel, kliëntediens, onderwys, besigheidsadministrasie, voedselvoorbereiding en rekeningkunde.

'n Parallelle studie van die Brookings Institution beklemtoon hierdie bevindinge. Dit identifiseer 36 miljoen Amerikaanse werksgeleenthede wat 'n hoë risiko loop, waar 70 persent of meer geoutomatiseer kan word met behulp van bestaande tegnologieë. Die kwesbaarste rolle sluit in kantooradministrasie, vervaardiging en produksie, vragmotorbestuur en basiese regsloopbane.

Hierdie werkverliese sal nie eweredig versprei word nie. Werkers in lae- en middelloonposisies sal waarskynlik die gevolge voel. Boonop sal opvoedkundige ongelykhede vererger namate jonger, minder opgeleide en landelike bevolkings onevenredig geraak word. Tot dusver het federale beleid misluk om die volle omvang van sosio-ekonomiese ontwrigting selfs rudimentêr aan te spreek. In die afwesigheid van proaktiewe oplossings kan miljoene Amerikaners hulself in die komende jare beide werkloos bevind.

Kunsmatige intelligensie hervorm nie net die ekonomie nie. Dit hervorm lewens. Die koste sal nie net deur werkverliese gedra word nie, maar ook deur toenemende ongelykheid en burgerlike onrus. Ekonomiese mobiliteit sal vir tientalle miljoene Amerikaners en hul gesinne weggeneem word. Maar as niemand inkomste het nie, wie anders as die argitekte en kapteins van sosiale beheer sal die produkte wat hierdie tegnologiemaatskappye verkoop, verbruik?

Dit is onbekend wanneer die kantelpunt bereik sal word; die VSA is egter reeds in 'n brose toestand. Ongeveer twee derdes van die bevolking rapporteer finansiële nood en sosiale verdeeldheid bly verdiep. Die verdere insluiting van ongekontroleerde KI in Amerikaners se lewens is nie 'n oplossing nie, maar 'n brandbare versneller. Uiteindelik kan dit intelligente masjiene wees wat bepaal wie leef en wie sterf.

Ongelukkig is al drie regeringsvertakkings medepligtig, want Silicon Valley en Wall Street het bodemlose sakke. Die vraag is nie of KI ons samelewing sal transformeer nie, maar of die publiek enige sê sal hê in hoe daardie transformasie lyk. Met elke nuwe deurbraak in KI gaan die toekoms minder oor wat ons kan doen en meer oor wat ons behoort te doen. Tog, sonder streng toesig en etiese beperkings, sal KI 'n instrument word vir outomatiese beheer, toesig en ontneming.

KI is nie meer 'n teorie nie. Dit is nou ingebed in ons infrastruktuur, ons regeringsinstellings en ons sosiale lewens. Dit het die hoeksteen geword waarop die hele transhumanistiese projek rus. Dit moet dringend gekommunikeer word dat om die etiese en geestelike gevolge van hierdie transformasie te ignoreer, beteken dat ons blindelings in 'n toekoms instap waarvan ons dalk nie kan terugstap nie.