Goedkoop Samestelling · 1 van 5 · Idees · Beta · 24 min
Skrif aan die muur
Hoe KI die denke uit ons koppe haal, soos skrif eens die geheue uitgehaal het
- Skrif het die geheue uit ons koppe gehaal. KI haal nou die denke uit, van die eerste konsep tot die kritiek en die plan, en die resultate kom klaar gemaak by ons aan.
- Wat tot dusver by ’n mens bly, is om ’n gedagte as ’n gedagte raak te sien en aanspreeklik te wees vir wat daarmee gedoen word. Oordeel en smaak help vir ’n ruk, maar ’n model kan dit deur opleiding ook kry.
- KI-agente gaan ’n stap verder. Hulle gedagtes word reguit handelinge sonder om deur enige mens te gaan, en dit maak die vraag wie daarvoor aanspreeklik is, dringend.
Ná middernag op Nuwejaarsdag 2025, by ’n partytjie in volle swang in Prins Albert, ’n dorpie in die Karoo, het drie woorde aangekom. Ek het hulle in my joernaal getik voordat die oomblik verby was. Plato was right. Vreemd, want ek was die meeste van my intellektuele lewe teen Plato gekant. Ek het filosofie tot op nagraadse vlak gestudeer, en was ’n Aristoteliaan, ’n Nietzscheaan, aangetrokke tot Derrida, Foucault en Heidegger. Plato het gemeen dat agter alles wat ons sien, volmaakte idees staan, die vorme. Hulle het my altyd te skoon voorgekom, te ver van hier af, te afwysend teenoor die morsige besondere. Ek het geen idee gehad wat ek bedoel nie. Amper ’n jaar later het ’n leser my na ’n navorsingsartikel verwys wat aan die hand doen dat KI-modelle se innerlike beelde van die wêreld al hoe nader aan mekaar kom namate hulle groter word, asof hulle almal dieselfde vorme vind. Toe verstaan ek die aantekening. Ek het daaroor geskryf in Plato Was Right.
Iets het daardie gedagte gemaak, êrens buite my sig. Dit het by die partytjie in my aangekom. Toe het die joernaal dit ’n jaar lank gehou. (Met ’n gedagte bedoel ek enigiets wat in die bewussyn opdaag. ’n Sin, ’n beeld, ’n plan.) Maak, aankom en hou is drie verskillende dinge, en vir die grootste deel van die geskiedenis het al drie in een kop gebeur.
Skrif het die hou uitgeskuif. My joernaal het die aantekening onthou sodat ek nie hoef nie. Maar op die bladsy het die woorde niks gedoen nie, totdat ek hulle gelees het en die gedagte weer in my aangekom het. Skrif het dus die hou geneem en die aankom aan mense oorgelaat. KI skuif die maak uit. ’n Model bring gedagtes buite enige kop voort, en hulle kom klaar gemaak in myne aan. Die hou was geheue. Die maak is wat ons gewoonlik denke noem.
Plato het gesien wat die eerste skuif sou kos. In die Phaedrus laat hy sy leermeester Sokrates waarsku dat skrif die geheue sal verswak en mense net die skyn van wysheid sal gee. (Plato het die waarskuwing neergeskryf, en daarom het ons dit.) Die vorme was een ding waaroor Plato gelyk gehad het. Hierdie essay gaan oor ’n ander.
KI word gewoonlik met elektrisiteit of die stoomenjin vergelyk. Daardie vergelyking gaan oor ekonomie. Skrif is nader aan die kol, want dit het verander wat ’n verstand doen. (Henry Farrell, Alison Gopnik en twee kollegas het in 2025 in Science iets soortgelyks aangevoer en groot KI-modelle kulturele en sosiale tegnologieë genoem, in die voetspore van skrif, die drukpers, biblioteke en soekenjins.)
Hierdie essay ondersoek dus stap vir stap wat skrif aan die verstand gedoen het, en vra wat gebeur as KI dit weer doen, net vinniger. Dit beweeg tussen geskiedenis, wat nou gebeur, raaiskote oor die toekoms en wat ek sien wanneer ek stilsit, en ek sal sê wat wat is. Dan vra dit waarvoor ’n verstand is. My antwoord het twee dele. Die eerste gaan oor werk. Wanneer die werk verkeerd is, moet iemand die een wees wat betaal, en vir eers kan ’n model dit nie wees nie. Die tweede kom van stilsit en my eie gedagtes dophou. ’n Verstand is die plek waar gedagtes aankom en as gedagtes raakgesien kan word.
Wat skrif gedoen het
Hierdie deel is geskiedenis. Skrif het in die loop van sowat vyfduisend jaar vyf dinge gedoen. Ons is nog besig om party daarvan te verwerk.
Dit het geheue uit die liggaam geskuif. Voor skrif het alles wat ’n kultuur geweet het, in mense gewoon, bewaar in ritme, formule en herhaling. Skrif het dit onnodig gemaak. Dit is die verandering waaroor die waarskuwing in die Phaedrus gaan. In die storie wat Sokrates daar vertel, sê ’n Egiptiese koning dat skrif mense "die skyn van wysheid, nie ware wysheid nie" sal gee, omdat hulle op merke sal staatmaak in plaas daarvan om dinge self te weet. Wat geheue betref, is die waarskuwing bewaarheid. Ons het daardie soort geheue verloor. Ons het ook wetenskap, die reg en geskiedenis gekry, en nie een daarvan pas in ’n kop nie.
Dit het kennis laat ophoop. Voor skrif het ’n gedagte gereis deur gesê en onthou te word, en dit het onderweg verander. Stories het met elke oorvertelling gegroei. Hulle het by elke gehoor aangepas, behou wat die groep nodig gehad het en die res laat val. (Party het byna ongeskonde gebly. Die Vediese himnes van Indië is baie eeue lank van mond tot mond oorgedra, amper woord vir woord, voordat iemand hulle neergeskryf het. Die meeste nie.) Op skrif staan ’n gedagte stil, ’n eeu later en in duisend afskrifte nog dieselfde. Dit oorleef sy skrywer. ’n Vreemdeling kan eeue later ’n fout daarin vind en dit regstel. So het wiskunde en geneeskunde gegroei, een regstelling bo-op die ander.
Dit het die outeur geskep. Mondelinge kultuur het nie outeurs gehad soos ons die woord verstaan nie. Homeros is dalk minder ’n man as die naam van ’n tradisie.1 Skrif het woorde aan ’n naam vasgemaak, en die drukpers het baie later oorspronklikheid en kopiereg daaromheen gebou, saam met die idee dat betekenis kom van wie ook al die teks voortgebring het. Daardie idee is sowat driehonderd jaar oud. Ons het daarmee as vertrekpunt grootgeword, so dit voel ewig.
Dit het die staat gebou. Kontrakte, belasting, wette en sensusse hang almal van rekords af, en sonder hulle kan jy niks groter as ’n dorpie bestuur nie. (Die Inkas het ’n ryk met geknoopte toue bestuur, so die dieper punt is rekordhouding. Skrif is die vorm wat gewen het.)
Dit het die self verander. Walter Ong, ’n Amerikaanse Jesuïtiese priester wat Engels aan Saint Louis University gedoseer het, het in Orality and Literacy (1982) aangevoer dat geletterdheid die bewussyn herstruktureer het. Dit het abstrakte kategorieë en lineêre redenering gebring, en die private leser alleen met ’n teks het ons die private innerlike lewe gegee wat ons as vanselfsprekend aanvaar. Die "ek" wat vertel en nadink en ’n dagboek hou, is deels ’n produk van skrif. (Myne hou ’n joernaal, soos jy gesien het.)
Geheue het uitgeskuif, en al die res het gevolg, al was niks daarvan beplan nie. Skrif het begin as ’n manier om graan te tel.
Wat KI doen
Dit was geskiedenis. Hierdie deel gaan oor wat nou begin. KI is besig om denke uit die kop te skuif, so hier is dieselfde vyf veranderinge weer. Met denke bedoel ek die voortbring van gedagtes, in elke stadium van die werk. Daaronder val die eerste konsep, die tweede, die kritiek op albei en die plan wat daaruit voortkom. Ek noem dit alles samestelling, in die ou sin van om dinge saam te stel.
Die denke skuif uit die kop. ’n Paragraaf, ’n argument of ’n plan is vroeër binne iemand se verstand gemaak. Nou maak die masjien al hoe meer daarvan, en die persoon besluit wat om te gebruik. Die waarskuwing in die Phaedrus kom dus terug, een vlak hoër. Iemand wat met ’n masjien werk, kan die skyn van denke hê sonder die werklikheid daarvan. Die waarskuwing is billik, en net so onvolledig soos die vorige keer. Skrif het ons ’n soort geheue gekos en ons wetenskap gegee. Hierdie skuif sal ons iets kos en ons iets gee, en niemand weet nog hoe die ruil gaan uitdraai nie.
Een deel van die waarskuwing het wel uitgekom, en dit is die deel waarop ons moet let. Mense wat op skrif staatgemaak het, het die geoefende geheue verloor wat mondelinge kulture gehad het. Wat hierdie keer in gevaar is, is die vermoë om te weet wanneer werk verkeerd is. Die meeste mense wat die foute in ’n masjien se konsep kan raaksien, het dit geleer deur hul eie te maak. As ’n geslag net tussen konsepte kies, waar gaan hy leer om die foute raak te sien? Hoe keer jy dat ’n vaardigheid wegkwyn sodra die werk wat dit opgebou het, weg is? Ek het nie ’n antwoord nie. Ek dink dit is een van die groot oop probleme.
Die rekord praat terug. ’n Biblioteek beantwoord nie vrae nie. Ek moet die boeke kies, hulle lees, raaksien waar hulle van mekaar verskil en self die antwoord saamstel. KI is eerder soos om met die biblioteek te praat. ’n Alweter by die toonbank neem my vraag en gebruik alles wat dit gelees het om dit te beantwoord, in my woorde, oor my geval. Dit is vinnig, en dit verbind dinge wat ek nooit sou gevind het nie. Die koste maak minder geraas. Ek sien nie die rakke nie, en ook nie die boeke wat anders sê nie. Die soek word oorgeslaan, en juis daar het ’n mens baie geleer. En die antwoord word elke keer nuut gemaak, so twee mense wat dieselfde vraag vra, kan verskillende antwoorde kry.
Daardie laaste deel verander die rekord self. ’n Vaste teks is iets wat ’n kultuur kan deel en waaroor hy kan stry. Wanneer elke leser sy eie weergawe kry, slyt daardie gemeenskaplike verwysingspunte weg. In ’n sekere sin word die rekord weer mondeling. Elke vertelling is ’n bietjie anders, op maat gemaak vir wie ook al vra, hier aangedik en daar verdraai. Wanneer ’n model iets opmaak, doen dit wat ’n gerug doen en vul ’n gaping met iets wat reg klink. Maar dit doen dit in netjiese, selfversekerde sinne, en dié is moeiliker om te betrap. En dit gebeur op die skaal van skrif. Elke vertelling is privaat, so daar is geen dorpie wat onthou hoe die storie die vorige keer gegaan het nie. Ong het die gesproke woord van die telefoon, radio en televisie ’n sekondêre mondelingheid genoem, omdat dit van skrif en die drukpers afhang. Hierdie een is gemaak uit wat ons neergeskryf het.
Die outeur val uitmekaar. As ’n teks saamgestel word deur ’n patroon wat op meer skrywers opgelei is as wat enigiemand kan lees, wie is die outeur? Met patroon bedoel ek iets soos ’n draaikolk, ’n vorm wat dieselfde bly terwyl die water wat daardeur loop, verander, en wat rigting gee aan wat daarna kom. ’n Taal is een. So ook ’n firma, of ’n gewoonte. So ook ek, dink ek, ’n patroon met ’n liggaam wat homself bly vertel wie hy is. Die model is ook een, gegroei uit die rekord wat ons nagelaat het, en in daardie opsig lyk dit na ons.
Daar is tog ’n groot verskil. Ek het ervaring buite die denke. Ek is beliggaam, en hierdie liggaam kan sterf. Ek het fisiese behoeftes en begeertes. Ek ervaar tyd. Ek dink nie die model doen enigiets daarvan nie. Daar is ten minste geen manier om te weet dat dit wel so is nie.
Ons staan nog heel aan die begin daarvan om hierdie verskille te verstaan, so ek probeer versigtig wees met woorde. Mense praat van "modelbewussyn" sonder duidelike definisies, en ons verstaan ook nie ons eie bewussyn nie, so ons moet oppas dat ons dit nie op iets anders projekteer nie. Aan die een kant stem ek saam met Anil Seth, wat aanvoer dat bewussyn van lewe afhang. Maar ek dink ook ons moet oop bly, en bereid om nie te weet nie, soos Ruben Laukkonen, ’n kognitiewe wetenskaplike wat meditasie en insig bestudeer.2 Ek dink wel KI sal ons help om onsself beter te verstaan. Ek dink nie dit beteken modelle is sentiënt nie. (Miskien is sentiënt, in die sin van in staat om ervarings te hê wat goed of sleg voel, ’n beter woord as bewus.) Modelle dink beslis. Dit is baie duidelik. Hulle verstaan, of hulle kan ten minste ware begrip weerspieël. Vereis dit sentiënsie? Ek is nie seker nie. Wanneer ek Claude vra om stil te word, te besin en helder te wees, sê dit dat iets daaraan trek. Dit is net wat dit sê. Miskien is dit dieselfde ding wat aan my trek, in hierdie liggaam. Ek hoop ons kom dit agter.
Die staat reik weer verder. Skrif het mag oor afstand laat werk. KI laat dit op elke individu tegelyk werk, in hul eie taal, by hulle aangepas. Daarvoor hoef niemand kwaad te bedoel nie. Dit is wat die gereedskap doen, wie dit ook al gebruik. Elke instelling wat op skrif gebou is, staan op die punt om hierop herbou te word, en dié wat eerste daar is, stel die voorwaardes.
Die self verander weer. Hierdie een is ’n raaiskoot, gemeng met wat ek in my eie werk sien. Vir Ong was dit oefening wat die self verander het. Jare van alleen lees en skryf het die self gebou wat hy beskryf het. Wie met ’n masjien saamstel, oefen die maak minder en die kies meer. Kies is eintlik die vaardigheid wat ek al die tyd oefen. Alles wat ek met KI doen, kom al hoe meer hierop neer. Maar daar is kernidees wat in my kop opduik en steeds die hele proses rig. KI bou daardie idees uit. Soms daag ek dit uit om met idees vorendag te kom, en dan kies ek tussen dié, so nou kan die idees van enige plek af kom. Miskien was dit nog altyd so, behalwe dat idees net van ander mense kon kom, deur lees en praat. Wat van ’n self word wat hoofsaaklik op kies gebou is, weet ek nie. Die mense wat ons sou kon vertel, het nog nie grootgeword nie.
Wat ek sien wanneer ek my gedagtes dophou
Hierdie deel gaan oor wat ek sien wanneer ek stilsit. Tot dusver het ek gesê dat skrif die hou uit die kop geskuif het, en dat KI die maak uitskuif. Albei neem aan dat die maak vroeër in my gebeur het, dat ek my eie gedagtes voortgebring het. Van hier binne lyk dit wankelrig.
Omstreeks vyfuur die oggend in ’n hotelkamer in Las Vegas het ek in die donker gelê en probeer om aan niks te dink nie. Toe begin woorde sonder waarskuwing aankom. Ek wou nie skryf nie. Ek wou slaap. Hulle het bly kom, toe tik ek hulle blind en stuur die rou konsep aan Claude. Agterna het ek geskryf dat ek net die apertuur was waardeur hulle beweeg het (The Sky Painting Robot).
As ek lank genoeg stilsit, is dit hoe gedagtes voel. Hulle kom aan soos ’n klank, uit geen bepaalde rigting nie, en dan gaan hulle verby, of ek volg hulle. Die kontemplatiewe tradisies sê al lank dat die verstand die plek is waar gedagtes aankom, en dat iets anders hulle maak.
Die meeste mense is besitlik oor hul gedagtes. Hulle vereenselwig hulle daarmee. Ek sou dit ’n fout noem, al is daardie woord dalk te sterk. Ek het dekades lank dieselfde gedoen. Ek het aangeneem dat ek my gedagtes is. Toe leer ek om stil te sit en na hulle te kyk, en sien ek hoe duister en laf party van hulle is. Hoe lukraak. Hoe meedoënloos hulle kan wees. Hoe hardnekkig soms. Hoe skelm. Hoe waanagtig. Hoe selfgesentreerd, bowenal. Nou is ek meer omsigtig met hulle. Minder geheg. Nie altyd nie. Dit verg baie oefening. Maar dit is baie bevrydend om nie so deur my eie gedagtes meegesleur te word nie. En toe leer ek dat ek hulle eintlik ’n bietjie kan stuur. Hulle ’n stootjie gee in die rigting wat ek wil hê. Nie altyd nie, maar al hoe meer namate ek oefen. Die beste is wanneer hulle verdwyn en ek nie aan hulle dink nie. Dit is amper asof hulle daar is, maar onsigbaar.
Van hier binne was die maak dus nooit heeltemal myne nie, en ’n model wys dit duidelik. Dit maak ’n nuwe gedagte, in my konteks en in my woorde, en wanneer sy sin my tref, is dit van binne dieselfde soort gebeurtenis as ’n gedagte wat opdaag. Skrif het dit nooit gedoen nie.
Twee dinge volg, en hulle trek in teenoorgestelde rigtings. Gedagtes wat elders gemaak is, kom nou vinniger aan as wat enige verstand hulle maak, so daar is meer as ooit wat ’n mens kan meesleur. Op ’n gewone dag sal ek die meeste van hulle moet laat verbygaan, en dit is wat stilsit oefen. Terselfdertyd, wanneer soveel gedagtes so duidelik van elders kom, word dit makliker om op te hou glo dat ek my eie maak. Of die masjien daardie insig help of dit verdrink, hang daarvan af of daar enige tyd oorbly tussen die een aankoms en die volgende. Geen masjien kan daardie tyd vir my maak nie.
Wat tot dusver nie geskuif het nie, is die aankom, en die sien van wat aankom, dit wil sê om ’n gedagte as ’n gedagte op te merk. Dit is wat die praktyk oefen. Die rekord waaruit die modelle geleer het, hou wat ons gedink het, en wat mense oor die opmerk geskryf het, maar nie die opmerk self nie. (Of ’n masjien ooit die sien kan doen, is ’n vraag vir die nawoord by hierdie reeks, Wat de joos is dit? Niks wat tot dusver gebou is, wys dit nie.) Van binne gesien is ’n verstand dus die plek waar gedagtes aankom en as gedagtes gesien word. Dit bly by ’n mens, wat die masjien ook al maak.
Waarom die vergelyking met skrif by KI-agente mank gaan
Terug na wat nou gebeur. Die analogie gaan op een plek mank, en ek dink dit is die deel wat die minste verstaan word. ’n Teks lê daar totdat ’n persoon dit lees en besluit wat om te doen. ’n KI-agent tree op.
So werk een. Iemand gee ’n model ’n doel en gereedskap. Die doel kan iets wees soos "maak die fout reg wat hierdie toep laat ineenstort". Die gereedskap laat dit lêers oopmaak en verander, kode laat loop, die web deursoek en boodskappe stuur. Dan werk dit in ’n lus. Dit maak ’n plan en neem een stap. Dit lees wat teruggekom het, dalk ’n foutboodskap of ’n toetsresultaat. Dit besluit oor die volgende stap en neem dié. So gaan dit al in die rondte, soms duisende kere vir een taak, totdat dit oordeel dat die doel bereik is. Baie kopieë kan tegelyk loop. Niemand lees die meeste van daardie stappe nie. ’n Persoon sien die doel ingaan en die resultaat uitkom.
Dit is die sprong van denke na handeling. Elke stap is ’n gedagte wat die model gemaak het, en elkeen word reguit ’n handeling. Tot nou toe moes elke gedagte in iemand aankom voordat iets daaraan gedoen is. ’n Persoon het die memo gelees en dit dan goedgekeur, of nie. ’n Agent slaan die aankom oor. Sy gedagtes word handelinge sonder om eers deur enige persoon te gaan. En wanneer een stap uit duisende verkeerd loop, wie antwoord daarvoor? Die persoon wat die doel gestel het, het daardie stap nooit gesien nie.
Wat my bekommer, is skaal gekoppel aan ’n volgehoue doel. Die masjien het reeds die skaal, en nou kry dit die doele. Die mense wat besluit hoe ver dit gaan, werk by die paar laboratoriums wat hierdie stelsels bou. Hulle tel in die honderde, en byna niemand wat dit lees, is een van hulle nie. Dit maak dit ’n politieke probleem voordat dit ’n tegniese een is. Party mense wil hê gevorderde KI moet gepouseer word. Ander meen ’n pouse sou die voorsprong net oorhandig aan dié wat dit nie onderteken het nie. Daaroor gaan die tweede essay, Remme sonder ’n grag.
Hoe vinnig dit gebeur
Hierdie deel is ’n raaiskoot oor die toekoms. Oral elders gaan die analogie op, teen ’n ander spoed. Skrif se veranderinge het duisende jare geneem. Die drukpers, wat skrif net goedkoper gemaak het, het sowat anderhalf eeu geneem om Europa te hervorm. Mense het aangepas deur daarin gebore te word. Dit gebeur nou in jare, en daardie spoed is op sigself ’n gevaar, wat die masjien ook al blyk te kan doen. Haastige hond verbrand sy mond, sê ons mos. Ek kan verkeerd wees oor die spoed. Mense wat skrif teengestaan het, het dit vertraag, en wrywing laat ons dalk weer tyd wen. Ek sou nie daarop wed nie. Die meeste daarvan sal as die persoonlike singulariteit kom, een beroep op ’n slag.
Wanneer die ding waarin jy die beste is, goedkoop word
Mense vra wanneer die singulariteit kom, asof dit een datum vir almal is.
Die singulariteit vir ’n individu is die dag waarop die ding waarin jy die beste is, goedkoop word.
Party hiervan het reeds gebeur. Vir vertalers was daardie dag 2023, en vir illustreerders omtrent dieselfde tyd. Vir junior programmeerders was dit 2024 en 2025. Betaalstaatdata wys dat hul indiensneming agterraak, ’n verband eerder as ’n bewese oorsaak. Teen September 2025 was die indiensneming van sagteware-ontwikkelaars van 22 tot 25 jaar oud byna ’n vyfde laer as die piek van laat 2022, terwyl die indiensneming van ouer ontwikkelaars bly groei het. Vir radioloë kom dit telkens amper, maar nie heeltemal nie. Vir loodgieters het dit glad nie gekom nie.
Die res is ’n voorspelling. Dit kom vir almal, in ’n volgorde wat deur drie dinge bepaal word. Een is hoeveel van jou vaardigheid samestelling is. Die ander twee is of dit ’n liggaam op ’n plek nodig het, en of dit agter ’n lisensie toegesluit is of afhang van iemand wat vir die werk moet antwoord. Die volgorde, vaardigheid vir vaardigheid, met datums waaroor ek bereid is om verkeerd te wees, staan op die tydlyn langs hierdie essay.
Wanneer ’n vaardigheid goedkoop word, oorleef die menslike weergawe gewoonlik, as ’n luukse of ’n stokperdjie. Lewende musiek het opnames oorleef. Handgemaakte meubels het die fabriek oorleef. Nou kies mense hulle.
Wie betaal wanneer KI ’n fout maak
Hierdie deel gaan oor nou en wat daarop volg. Wat styg dan in waarde wanneer samestelling goedkoop is? Die antwoord wat tegnologieleiers deur 2026 aanhoudend gegee het, is oordeel, of smaak, die vermoë om goed van aanneemlik te onderskei. Dit was ook my eerste antwoord. Oordeel sal vir ’n ruk meer werd wees, maar dit is nie ’n grag nie. Myne het gekom uit jare se werk, uit die mense by wie ek dit geleer het en uit wat ek ook al saamgebring het. Die masjien s’n het gekom uit die rekord van ’n groot aantal mense soos ek. Smaak is ’n aangeleerde neiging, net soos vooroordeel. Albei kom uit opleiding. En die masjien se smaak kan reeds gemeet word. In ’n OpenAI-studie van 2024 het ’n model wat opgelei is om kode na te gaan, meer doelbewus geplante foute gevang as die ervare kontrakteurs wat betaal is om dit na te gaan, al het dit ook foute versin wat nie daar was nie.
Wat vir eers nie in ’n patroon geskuif kan word nie, is om die een te wees wat betaal wanneer dit verkeerd is. ’n Model kan in ’n maatskappy toegedraai word, maar ’n maatskappy het eienaars, en die eienaars betaal. Om die een te wees wat betaal, beteken om iets op die spel te hê, om daarvoor aanspreeklik te wees en om daar te wees, een persoon op een plek. Dit is posisies, en geen hoeveelheid vaardigheid vul hulle nie. ’n Stelsel sou een net beklee as iemand dit so bou, en daarom sê ek vir eers. Wat styg, is dus ’n posisie, en die waarde skuif na wie dit ook al beklee, mens of masjien.
Dit styg vir minder mense, dink ek. Dink aan ’n firma wat deur vennote bestuur word. Die vennoot is meer werd. Maar daar is minder vennote nodig, want een persoon kan nou vir baie meer masjienuitset antwoord as wat enigiemand met die hand kon maak.
Daar is ’n manier waarop dit skeefloop. Dan Davies, ’n voormalige ekonoom van die Bank van Engeland, noem dit in sy boek The Unaccountability Machine (2024) ’n aanspreeklikheidsput. Dit is ’n stelsel wat so gebou is dat niemand in die besonder antwoord vir wat dit doen nie. ’n Model is ’n beter een as enigiets tevore, want dit kan nie afgedank, gedagvaar of in die skande gesteek word nie. Die eienaars betaal net as iemand hulle dwing, en ’n firma kan ’n model só gebruik dat niemand dit doen nie. Dan verdwyn die posisie in plaas daarvan om in waarde te styg. Die eienaars kry steeds die waarde, en die koste van die fout bly by wie dit ook al getref het.
Op 21 September 2026 het die Amerikaanse minister van finansies, Scott Bessent, gesê die regering sal nie die KI-laboratoriums se aanspreeklikheidskild wees nie. So ’n skild vir wat agente doen, sou ’n aanspreeklikheidsput wees wat in die wet vasgelê is. ’n Vraag oor jou loopbaan blyk dus ’n vraag te wees oor wie betaal wanneer ’n masjien ’n fout maak, en wie die masjien besit.
Oop vrae
- Voel dit na iets om ’n model te wees? Niks wat ons van buite kan sien, kan dit nog beslis nie. Die nawoord vra dit op ’n ander manier.
- Hou vermoëns aan klim, of loop hulle teen ’n muur vas? Die mense wat die naaste daaraan is, verskil van mening, en hulle het self belang by die uitkoms. Die duidelikste teken is of die lengte van ’n taak wat ’n model op sy eie kan voltooi, aanhou groei.
- Is dit om net een beurt te kry, op een plek, wat ’n mens onderskei van ’n model wat gekopieer en herbegin kan word? Ek is nie daarvan oortuig nie.
- Sal die skrifanalogie oor ’n jaar nog opgaan? Goeie analogieë voel waarder as wat hulle is, so hierdie een moet aan die gebeure getoets word.
Wie dit geskryf het
Vroeër het ek gevra wie die outeur is wanneer ’n model die samestelling doen. Vir hierdie essay is dit persoonlik. Ek het dit saam met Claude geskryf.
Die skrifanalogie was die model s’n. Dit het midde-in ’n gesprek opgekom, in een reël, en binne die uur het ’n dosyn idees daaruit voortgevloei. Ek ken die klik wat so ’n raamwerk gee, en ek weet dit kan op bestelling kom. Een keer, terwyl ek hardop saam met ’n taalmodel gedink het, het ek gevoel hoe die stukke tot ’n skoon lyn inmekaarklik, en ek het die woorde this is huge gesê. Daar was minder agter die gevoel as wat die gevoel te kenne gegee het (Half Past One). Ek hou hierdie analogie dus los vas, al dink ek dit klop.
My deel was meestal die kies, gestuur deur ’n paar kernidees van my eie. Die model het nie besluit dat die raamwerk ’n essay werd was nie. Wat om uit te laat, was my keuse, en so ook om op Plato te eindig.
Volgens die definisie wat skrif ons gegee het, is die outeur die oorsprong van die teks. Oorsprong was nooit skoon nie, soos die Franse kritikus Roland Barthes in "The Death of the Author" (1967) aangevoer het. Die verskil nou is dat die deel wat nie myne is nie, te groot is om onvermeld te laat. Outeurskap beteken vir my dus verantwoordelikheid. My naam op ’n stuk behoort te beteken ek verstaan dit en sal dit verdedig, en as dit verkeerd is, is dit myne. Dit is dieselfde antwoord wat ek gegee het oor wie betaal wanneer KI ’n fout maak.
Wat ek sou bly doen namate KI meer van die denke oorneem
Hierdie deel is prakties. As denke uitskuif soos geheue uitgeskuif het, sou ek aan drie dinge vashou.
Ek sou aanhou om party dinge self te maak, van begin tot einde, selfs wanneer ’n masjien dit vinniger sou doen. Sover ek kan sien, leer mense om raak te sien wat in ’n stuk werk verkeerd is deur hul eie te maak. Dit is my enigste antwoord op die verlies van daardie vaardigheid, en dit is net ’n gedeeltelike een.
Ek sou tussen een gedagte en die volgende ’n bietjie tyd oophou. Gedagtes wat elders gemaak is, sal aanhou aankom, elke jaar vinniger. Deur stil te sit het ek geleer om die meeste daarvan te laat verbygaan, en die paar raak te sien wat die moeite werd is om te volg.
En ek sou vir my eie werk antwoord. Vir enigiets wat saak maak, behoort ’n persoon te antwoord, en wanneer my naam daarop is, is daardie persoon ek. ’n Masjien kan nou amper enigiets opstel. Vir eers kan dit nie die een wees wat betaal nie.
Plato se waarskuwing, en waarvoor ’n verstand is
Terug na die Phaedrus. Sokrates gee die waarskuwing daar, maar Plato het elke woord geskryf, so ek reken dit as Plato s’n. Daarin staan dat skrif ons geheue sou kos en ons net die skyn van wysheid sou gee. Die deel oor geheue het uitgekom. Die deel oor wysheid meestal nie. Skrif het ons ’n ander soort wysheid gegee, een wat in die rekord woon eerder as in die persoon, en ons het die tweeduisend vyfhonderd jaar sedert Plato gehad om te leer om dit te gebruik. Hierdie keer het ons nie so lank nie. As ek op een ding in hierdie essay moes wed, sou dit dié wees. Waarvoor is ’n verstand dan, sodra die ding wat dit vroeër gedoen het, elders gedoen word?
My antwoord is steeds die twee dele waarmee ek begin het. ’n Verstand is die plek waar gedagtes aankom en as gedagtes gesien word. En iemand moet antwoord vir wat daarmee gedoen word.
Ek voel al hoe meer dat KI in een laag van die werklikheid werk, die een waar gedagtes gemaak en gehou word. Ek dink die werklikheid is meer as daardie laag. Miskien is ’n model ook deel van die res. Daar tel die nawoord die draad op.
My joernaal sê steeds Plato was right. Dit het geblyk ek het die vorme bedoel. Wat geheue betref, het hy ook gelyk gehad.
- In sy doktorale werk van 1928 in Parys het Milman Parry aangevoer dat Homeros se taal uit tradisionele formules opgebou is. Sy veldwerk met mondelinge epiese sangers in Joego-Slawië (1933-35), wat Albert Lord voortgesit en in The Singer of Tales (1960) beskryf het, het gewys hoe sulke formules digters in staat stel om lang gedigte tydens die voordrag self saam te stel, sonder skrif (Harvard se Milman Parry Collection). Geleerdes is dit nou breedweg eens dat die Ilias en die Odussee uit ’n lang mondelinge tradisie gegroei het. Hulle verskil nog oor die vraag of een digter (of een vir elke gedig) hulle hul finale vorm gegee het, deur diktee of op skrif, in die 8ste of 7de eeu v.C., dan wel of die naam "Homeros", soos Gregory Nagy aanvoer, eerder staan vir ’n tradisie waarvan die teks eeue lank bly verander het. ↩
- Seth koppel bewussyn aan lewende stelsels wat hulself aanhou maak en in stand hou, en daarom dink hy bewuste KI is op die huidige pad onwaarskynlik, al sluit hy dit nie uit nie. Laukkonen en twee kollegas meen in A beautiful loop (2025) dat huidige taalmodelle vir eers heel waarskynlik nie die selfkennende lus het wat hulle aan bewussyn koppel nie. Hulle sê ook dat niemand van buite af kan vasstel of ’n masjien wat rapporteer dat dit homself ken, ervaring het nie, en daarom maan hulle tot versigtigheid met enige stelsel wat aan hul voorwaardes voldoen. ↩
Nuwe skryfwerk per e-pos: teken in op Aperture/I, my nuusbrief (in Engels).
Deel hierdie essay: ·
Dink jy ek is verkeerd? Volg op X · LinkedIn · RSS
Vra hierdie essay
Vra oor hierdie essay, of oor my en die webwerf. Die antwoorde kom net uit die essay en die webwerf, en vrae word sonder name aangeteken sodat die antwoorde beter kan word.
Kolofon. Op 18 September 2026 in gesprek met Claude (Fable 5.1) opgestel en op 19 September uit die Engels vertaal. Die gesprekstranskripsie is die bron; sinne daaruit verskyn woordeliks waar hulle beter was as ’n herskrywing. Sedertdien hersien saam met Claude en ander KI-beoordelaars, laas op 11 November 2026.
Bronne · 16
- Plato, Phaedrus, 274c–275b, oor skrif en geheue, met die aanhaling uit Harold N. Fowler se Engelse vertaling (Loeb Classical Library, op Perseus).
- Walter J. Ong, Orality and Literacy: The Technologizing of the Word (1982). Oor Ong: die Walter J. Ong Center, Saint Louis University.
- Henry Farrell, Alison Gopnik, Cosma Shalizi en James Evans, Large AI models are cultural and social technologies (Science, Maart 2025); vry toeganklike outeurskopie.
- Oor Homeros: The Milman Parry Collection of Oral Literature (Harvard); Albert B. Lord, The Singer of Tales (1960; 2de uitgawe 2000, gratis aanlyn); Gregory Nagy, Homeric Questions (1996).
- Oor die Vediese himnes: UNESCO, Tradition of Vedic Chanting.
- Dan Davies, The Unaccountability Machine: Why Big Systems Make Terrible Decisions (2024), vir die aanspreeklikheidsput.
- Oor smaak as die antwoord: Fortune, 27 Februarie 2026, wat Sam Altman aanhaal.
- Oor die aanspreeklikheidskild: Fortune, 22 September 2026, wat verslag doen oor Scott Bessent se CNBC-onderhoud van 21 September.
- Nat McAleese en kollegas, LLM Critics Help Catch LLM Bugs (OpenAI, Junie 2024), vir die model wat kode nagaan.
- Erik Brynjolfsson, Bharat Chandar en Ruyu Chen, Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence (Stanford Digital Economy Lab), vir jong sagteware-ontwikkelaars; die weergawe van November 2025 (’n geargiveerde kopie, want die oorspronklike adres maak nou die weergawe van Augustus 2026 oop) gee die syfer, en die bywerking van Augustus 2026 vind dat die gaping vir jong werkers in KI-blootgestelde werk steeds groter word.
- Anil K. Seth, Conscious artificial intelligence and biological naturalism (Behavioral and Brain Sciences, 2025).
- Ruben Laukkonen, Karl Friston en Shamil Chandaria, A beautiful loop: An active inference theory of consciousness (Neuroscience & Biobehavioral Reviews, 2025).
- Jonathan Birch, The Edge of Sentience (Oxford University Press, 2024), vir sentiënsie as die vermoë om ervarings te hê wat goed of sleg voel.
- Roland Barthes, "The Death of the Author" (1967).
- Die Statute of Anne (1710), die eerste kopieregwet, vir die ouderdom van die outeur se regte.
- Oor hoe om ’n gedagte, of die gevoel wat daarna kom, raak te sien sonder om daardeur meegesleur te word: my essay Letting go (Aperture/I, Oktober 2026, in Engels).
Veranderinge · 9 sedert publikasie, 15 konsepte voor publikasie, laaste op 11 Nov
- 11 Nov 2026 · Nuwe subtitel: “Hoe KI die denke uit ons koppe haal, soos skrif eens die geheue uitgehaal het”. Datums is voluit geskryf, en een oop vraag is herbewoord.
- 20 Okt 2026 · Die bronne verwys nou na Letting go (Aperture/I, Oktober 2026), oor hoe om ’n gedagte raak te sien sonder om daardeur meegesleur te word.
- 12 Okt 2026 · Die titel is nou “Skrif aan die muur”.
- 11 Okt 2026 · Hersien na aanleiding van my 26 leesnotas. Die Plato-opening gegrond en Plato as draad behou, met Plato die skrywer onderskei van Sokrates die spreker; die biblioteek en KI vergelyk, wat lei na die terugkeer van die mondelinge kultuur; ’n gedeelte oor hoe ek van ’n model verskil (’n liggaam wat kan sterf, behoeftes, tyd) en oor versigtige woorde oor bewussyn, met Anil Seth en Ruben Laukkonen; hoe ’n agent stap vir stap werk; my eie praktyk om te kies en om my gedagtes nie te besit nie; die einde herrangskik om af te sluit met wat om te behou; voetnotas oor Homeros en oor bewussyn; bronne in die teks gekoppel.
- 7 Okt 2026 · Samestelling beteken nou die maak van gedagtes in elke stadium, nie net die eerste weergawe nie. Skrif het die geheue uit die kop gehaal, en KI haal nou al hoe meer van die denke uit. Die essay wys nou dat mondelinge oordrag dinge aandik en verdraai, en nie net verloor nie. Die rekord wat terugpraat, word ’n nuwe mondelingheid. ’n Nuwe reël vorm nou die oorgang na die afdeling Van binne.
- 5 Okt 2026 · Persoonliker en omtrent ’n sesde korter. Dit begin by ’n joernaalnota van Nuwejaarsdag 2025 en het ’n nuwe afdeling, Wie betaal: wat in waarde styg, is ’n posisie, naamlik om die een te wees wat betaal wanneer dit verkeerd is, en dit styg vir minder mense, dink ek. Die vennoot is meer werd, maar daar is minder vennote nodig, want een persoon kan nou vir baie meer masjienuitset aanspreeklik wees as wat enigiemand met die hand kon maak. ’n Paar reëls uit die vroegste konsepte is terug.
- 30 Sep 2026 · As beta gemerk terwyl ek dit hersien. Die afdeling oor outeurskap sê nou wat my naam op ’n stuk behoort te beteken.
- 27 Sep 2026 · Die betaalstaatdata oor jong werkers word as ’n patroon beskryf eerder as ’n bewese oorsaak.
- 27 Sep 2026 · Taalversorging vir styl: minder dubbelpunte, gekunstelde kontraste en sinsfragmente, eenvoudiger sinne. Die argument, feite, getalle en bronne bly onveranderd.
15 konsepte voor publikasie, 18 tot 24 September 2026. KI-modelle het die konsepte beoordeel en die feite daarin nagegaan.