Lopende lys · hoort by Remme sonder 'n Grag · Konsep 1

Rem of grag?

Die KI-reëls en -voorstelle wat nou ter tafel is, met een toets beoordeel, elkeen met 'n rede en 'n datum

Cobus Kok · bygewerk 23 September 2026

Elke KI-reël wat ter tafel is, word deur die een kant veiligheid genoem en deur die ander reguleerdersinname. Daardie aanklag kan teen enige reël gemaak word, so dit besleg niks nie. In Remme sonder 'n Grag het ek 'n toets voorgestel wat kyk na wat 'n reël doen eerder as na wie daarvoor gevra het, en hierdie bladsy pas dit toe op die reëls en voorstelle waaroor mense nou stry. Elke ry sê wat die reël stop en gee 'n uitspraak met een rede, gedateer op die dag waarop ek dit beoordeel het.

Die reëls, beoordeel

Waar die essay 'n reël reeds beoordeel het, gebruik ek sy uitspraak woord vir woord en merk ek dit met (essay). "Te vroeg om te sê" beteken dat ek op grond van die teks, of by gebrek aan een, nog nie kan besluit nie. Niks hier is tot dusver op konsentrasie gemik nie. Die naaste kandidaat is die EU se stap om Amazon en Microsoft se wolkdienste onder sy reëls vir hekwagters te plaas, en ek sal dit beoordeel wanneer die besluit finaal is.

Rem, of die regte rigtingGragOnbeslis, of te vroeg om te sêGeen van die twee nie: 'n muur of 'n ruil

Aantekeninge en bronne

Pasbeheer, stap een. Op 12 September het Dario Amodei buite-evalueerders binne die laboratorium voorgestel, met lessenaars, kentekens en toegang naby aan dié van die laboratorium se eie risikospan, en vry om hoofbevindings te publiseer. Die laboratorium mag sekuriteits-, regs- en kommersiële inligting weglaat, maar nie bevindings bloot omdat hulle ongunstig is nie. Sam Altman het dit dieselfde dag ook vir OpenAI belowe. Op 18 September het Anthropic sy eerste evalueerder genoem, Accenture, en gesê dat dit voorlopig direk vir die werk sal betaal; die doel is geld uit 'n gemeenskaplike poel of van die regering. Daarmee is een van die essay se drie kontroles gehaal: 'n evalueerder met 'n naam. Die toegang is tot dusver 'n plan: die evalueerders sal toegang hê wat vergelykbaar is met dié van 'n werknemer, en Anthropic sê daar is nog geen standaarde vir wat hulle moet sien of hoe hulle moet rapporteer nie. 'n Resultaat wat gepubliseer word voordat 'n model vrygestel word, moet nog kom. As 'n laboratorium sy evalueerders betaal, is hulle onafhanklik soos ouditeure onafhanklik is: beter as niks, en swakker as wat dit klink. OpenAI het nog nie sy evalueerders genoem nie. Bronne: Amodei; Anthropic, 18 Sep; TechCrunch, 12 Sep.

Pasbeheer, stap twee. Die voorste laboratoriums sou ooreenkom oor gemeenskaplike veiligheidstandaarde en perke op die tempo van ongekontroleerde vordering, en die regering sou "'n eng vrystelling" gee sodat hulle kan praat sonder om mededingingsreg te oortree. 'n Ooreenkoms tussen die grootste mededingers om saam stadiger te gaan, is in vorm 'n kartel. As sy perke net lopies aan die voorpunt bind, hoef 'n beginmaatskappy wat 'n klein model oplei, niks te doen nie, en die toets laat dit toe. As die ondertekening die prys word om hoegenaamd te ontplooi, is dit 'n lisensie. Standaarde wat nagegaan word deur evalueerders wat die laboratoriums betaal, is 'n geslote kring. Sedert die essay geskryf is, het die wetsontwerp wat die vrystelling die waarskynlikste sou dra, vasgeval, en het senatore Hawley en Cruz nee gesê vir enige vrystelling van mededingingsreg vir KI (sien die veilige hawe). Op 18 September het vier intekenaars boonop vier laboratoriums kragtens die Sherman-wet gedagvaar, met die argument dat 'n ooreenkoms om stadiger te gaan, uitset beperk. Die voorstel noem steeds nóg 'n lyn nóg wie dit nagaan. Bronne: Amodei; Bloomberg Law oor Buist v. Anthropic.

Pasbeheer, stap drie, en die voorvallyn. Amodei se derde stap is koördinasie met China. Dit begin met 'n verbod op KI-hulp vir biologiese wapens en brei, as die vertroue dit toelaat, uit na toetsing voor vrystelling en 'n perk op die spoed van selfverbetering. Op 20 September het die Amerikaanse minister van finansies ná gesprekke met China se visepremier gesê die twee kante het 'n formele KI-dialoog bespreek, en die VSA het 'n manier voorgestel waarop die twee regerings mekaar kan waarsku oor KI-voorvalle wat ernstig genoeg is om nasionale veiligheid te raak. China se weergawe het gesprekke oor KI bevestig, maar nie die waarskuwingsmeganisme nie, en soos dit voorgestel is, dek die meganisme voorvalle, nie vermoë nie. Dit word die eerste openbaarmakingsrem tussen mededingers as Beijing dit aanvaar en as dit uitgebrei word om ook spronge in vermoë te dek. Bronne: Amodei; Euronews, 21 Sep.

Veilige hawe teen mededingingsreg. Die Collaboration on Adversarial Threats and Security Risks Act, wat op 23 Julie ingedien is, sou twee dinge van mededingingsreg vrystel. Die eerste is die deel van inligting oor KI-sekuriteitsrisiko's. Die tweede is ooreenkomste om die vrystelling, opleiding of toetsing van KI te "vertraag of andersins te beperk", ná skriftelike kennisgewing aan die hoof van die departement van justisie se mededingingsafdeling waarin die risiko genoem word. Die vrystelling vir die deel van inligting sluit prysbinding, markverdeling en boikotte uit. Firmas wat op enigeen van die twee vrystellings aanspraak maak, moet bewys dat hulle te goeder trou en met 'n sekuriteitsdoel optree, en die prokureur-generaal kan 'n saak aanhangig maak om misbruik te stuit. 'n Weergawe daarvan was gereed om in 'n pakket wysigings by die Senaat se verdedigingswetsontwerp gevoeg te word, en daardie wetsontwerp sit sedert die somer vas. Op 15 September het senatore Hawley en Cruz hulle teen enige vrystelling van mededingingsreg vir KI uitgespreek. Dit is die vrystelling wat stap twee nodig het. Wie dit nagaan, is 'n openbare instansie wat die laboratoriums nie betaal nie, maar daar is geen lyn nie: enige groep firmas kwalifiseer vir enige vertraging wat aan 'n genoemde risiko gekoppel is, so dit kan 'n rem of 'n kartel dek. Bronne: teks van die wetsontwerp; Semafor, 16 Sep; Hawley, 15 Sep.

'n Standaardliggaam volgens die FINRA-model. Op 14 Julie het Demis Hassabis 'n liggaam voorgestel wat deur die bedryf befonds en deur die regering gesteun word, na die voorbeeld van die selfreguleerder vir Amerikaanse effektemakelaars. Dit sou voorpuntmodelle tot 30 dae voor vrystelling toets vir gevaarlike vermoëns op die gebied van kuber, biologie en misleiding: aanvanklik vrywillig, en daarna verpligtend vir enige voorpuntmodel wat in die VSA verkoop word, sodra die toetse hulself bewys het. Op 15 September het OpenAI gesê dat dit al sedert daardie voorstel met Anthropic en Google praat oor hoe hulle saam aan veiligheid kan werk. Die lyn is reg as dit by voorpuntmodelle bly. Die probleem is wie dit nagaan: standaarde wat geskryf word deur die maatskappye wat hulle bind, en nagegaan word deur personeel wat daardie maatskappye betaal, is 'n geslote kring, tensy 'n openbare toesighouer dieselfde mag daaroor het as wat die SEC oor FINRA het. Volgens Hassabis sal die liggaam onder federale toesig staan, maar hy sê nie wie die toesig sal hou of met watter magte nie. Bronne: Hassabis, 14 Jul; CNBC, 15 Sep.

'n Federale aanspreeklikheidskild. Volgens berigte het laboratoriums Washington gevra om te beperk wat hulle verskuldig is wanneer hul modelle skade veroorsaak. Op 15 September het die Amerikaanse minister van finansies aan 'n komitee van die Huis van Verteenwoordigers gesê: "Die beste manier om veiligheid te waarborg, is dat die skeppers aanspreeklik is vir wat hulle bou en genereer." Op 21 September het hy gesê die regering sal nie 'n aanspreeklikheidskild wees nie. Daar bestaan geen federale teks nie. Die naaste daaraan is Illinois se SB 3444. Dit sou ontwikkelaars van modelle bo 10^26 bewerkings teen aanspreeklikheid vir katastrofes gevrywaar het, dit wil sê honderd mense dood of ernstig beseer, of 'n miljard dollar se skade, mits hulle veiligheidsverslae gepubliseer het en nie opsetlik of roekeloos opgetree het nie. Die wetsontwerp het in Mei vasgeval. 'n Skild stop niks wat 'n model kan doen nie. Dit kan die prys van 'n rem wees, betaal met die publiek se reg om te dagvaar, en dit word 'n grag as net diegene wat die gevestigde spelers se standaarde onderteken, daarvoor kwalifiseer. Bronne: FedScoop, 15 Sep; Fortune, 22 Sep; Illinois SB 3444.

Ban Artificial Superintelligence Act. Dit sou superintelligensie heeltemal verbied en elke model wat met 10^25 bewerkings of meer opgelei is, onder 'n verpligte pouse plaas: geen verdere opleiding en geen nuwe vrystellings nie totdat 'n nuwe departement van kunsmatige intelligensie beman is en sy reëls geskryf het. Om so 'n model te bou of te versprei, sou die departement se handves nodig wees, en om een te ontplooi, vry te stel, in te voer of oor te dra, sy goedkeuring, kragtens artikel 9(d). Sy lys van verbode vermoëns, soos om afskakeling te weerstaan of by stelsels in te breek, is geskryf soos 'n rem geskryf word. Op die toets: dit stop 'n vermoë, so dit is 'n rem. 'n Beginmaatskappy wat onder die lyn oplei, kry geen pouse nie, net die verbodde op vermoëns wat almal bind, so dit slaag die tweede vraag. Die instansie wat dit nagaan, is openbaar, en die laboratoriums betaal dit nie; dit is die deel wat die moeite werd is om te behou. Dit druip op die vierde vraag. Artikel 15 gee die regering opdrag om internasionale ooreenkomste te soek, maar die pouse wag nie vir hulle nie: dit sou kwalifiserende lopies tuis stop en nie een in die buiteland nie, en buitelandse modelle met 'n invoermuur uithou. Dit neem aan dat die voorpunt tuis gehou kan word, terwyl oopgewig-modelle dit met maande volg en as aflaaie aankom, so die voorpunt sou verskuif na wie ook al nie geteken het nie. Artikel 8 verbied net modelle wat nog nie vrygestel is nie, en soos ek dit lees, bly modelle wat reeds vrygestel is, dus te koop terwyl niemand 'n nuwe een kan vrystel nie. Artikels 9(d) en 12(b), wat goedkeuring vereis om te ontplooi en 'n handves om te versprei, kan hulle dalk ook raak, en die teks besleg die vraag nie. Sy lyn word elke jaar aangepas om die vermoë van 'n lopie van 10^25 konstant te hou, so dit daal namate opleiding doeltreffender word, en dek dan 'n groter deel van die bedryf. Bronne: persverklaring; teks van die wetsontwerp.

Die Senaat se konsep oor voorpunt-KI. Senatore Thune, Cruz en Klobuchar onderhandel sedert die somer oor 'n wetsontwerp wat 'n sorgplig op ontwikkelaars van die mees gevorderde modelle sou lê. Volgens berigte sou die maatskappye hul eie modelle toets en die minister van handel die vrystelling goedkeur; senator Cantwell wil hê die nasionale laboratoriums moet die toetse doen. Die konsep sou glo ook die veiligheidswette van die state verdring, en op 16 September het 'n koalisie van veiligheidsgroepe dit in 'n brief verwerp. Daar is geen openbare teks nie. As die laboratoriums hul eie werk nasien en die regering die punte lees, is dit die geslote kring waarteen die toets waarsku; as die nasionale laboratoriums toets, is die instansie wat dit nagaan, openbaar, en die laboratoriums betaal dit nie. Bronne: Nextgov; Washington Post, 16 Sep.

FRONTIER Act. Enigiemand wat 'n model bo 10^26 bewerkings oplei, moet by of voor vrystelling 'n deursigtigheidsverslag publiseer, en die wetsontwerp tel dit as vrystelling wanneer 'n model beskikbaar gestel word om te kopieer of te wysig, so oop gewigte is ingesluit. Die swaarder pligte val net op ontwikkelaars met meer as $50 miljoen se inkomste wat oor drie jaar minstens $1 miljard aan KI bestee het: 'n gepubliseerde veiligheidsraamwerk, 'n jaarlikse oudit deur 'n derde party, en registrasie. Dit is naby aan die entiteitsneller wat Ball en Ramakrishnan voorgestel het. Die heel grootstes moet ook 'n gelisensieerde verifikasieliggaam aanstel, wat terselfdertyd aan die regering en die laboratorium rapporteer. Die lyn kan net verhoog word. Die laboratoriums betaal hul ouditeure, maar mag nie die fooi aan die uitslag koppel nie. Dit is beter as die meeste voorstelle, maar steeds nie so goed soos iemand wat dit nagaan en wat die laboratoriums nie betaal nie. Die minister van handel sou 'n model wat 'n dreigende katastrofiese risiko inhou, kon opskort. Die teks soos dit ingedien is, verdring ook die state se reëls vir deursigtigheid oor voorpuntrisiko, oudits en die rapportering van voorvalle, die terrein wat SB 53 en RAISE dek. Bronne: teks van die wetsontwerp; Obernolte en Trahan, 23 Jul.

Kalifornië se SB 53. 'n Voorpuntmodel is een wat met meer as 10^26 bewerkings opgelei is. Elke ontwikkelaar van so 'n model publiseer by vrystelling 'n deursigtigheidsverslag en rapporteer kritieke veiligheidsvoorvalle binne 15 dae aan die staat. Ontwikkelaars met meer as $500 miljoen se inkomste publiseer ook 'n veiligheidsraamwerk en stuur die staat opsommings van hul beoordelings van katastrofiese risiko. Op die toets stop dit iets wat 'n model kan doen, naamlik dat 'n voorpuntmodel in stilte vrygestel word, so dit is 'n rem. Dit slaag die tweede vraag: 'n beginmaatskappy wat 'n klein model oplei, hoef niks te doen nie, en 'n verslag kos 'n klein fraksie van 'n lopie van daardie grootte. Dit is swak op die derde: die laboratoriums rapporteer aan die staat en geen buite-oudit word vereis nie, so hulle rapporteer oor hulself, en die prokureur-generaal dwing die wet af met boetes van tot $1 miljoen per oortreding. Bron: die wet.

New York se RAISE Act. Die wet is in Desember 2025 onderteken en in Maart 2026 herskryf om by SB 53 aan te pas: dieselfde lyn van 10^26 vir voorpuntmodelle en dieselfde inkomstelyn van $500 miljoen vir die swaarste pligte, met voorvalle wat binne 72 uur gerapporteer moet word. Op 21 September het die goewerneur die amptenaar aangestel wat die wet by 'n nuwe staatskantoor sal toepas. Sy het gesê ontwikkelaars sal vanaf November registreer en moet vanaf Januarie 2027 daaraan voldoen, en sy het "noodskakelaars" geopper as hulle uitvoerbaar blyk; dit is te vroeg om dié voorstel te beoordeel. Die verskil tussen New York en Kalifornië lê by wie vir die toesig betaal: die grootste ontwikkelaars befonds die kantoor deur heffings, maar die staat bestuur dit. Dit is naby aan die heffing wat die essay vir evalueerders voorstel. Universiteite wat akademiese navorsing doen, is vrygestel. Bronne: Goewerneur Hochul, 21 Sep; Morrison Foerster oor die wysiging; Bloomberg, 21 Sep.

Die EU se KI-wet, modelle met sistemiese risiko. Daar word vermoed dat 'n model vir algemene gebruik wat met meer as 10^25 bewerkings opgelei is, sistemiese risiko inhou, en sy verskaffer moet dit evalueer, dit met aanvalstoetse beproef, die risiko's beoordeel en verminder, ernstige voorvalle rapporteer en dit beveilig. Hierdie pligte geld sedert Augustus 2025, en die Kommissie se KI-kantoor kan hulle sedert 2 Augustus 2026 afdwing. Die omnibus wat op 27 Julie 2026 in werking getree het, het die hoërisiko-reëls uitgestel en hierdie pligte onveranderd gelaat. Die uitsondering vir oopbron geld nie op hierdie vlak nie, so gewigte wat vrygestel is, word net soos geslote gewigte gebind. Wie dit nagaan, is 'n openbare kantoor wat die laboratoriums nie betaal nie, en die Kommissie moet die lyn aanpas soos die tegnologie verander. Twee kanttekeninge. Ligter pligte begin by sowat 10^23 bewerkings vir enige model vir algemene gebruik: dokumentasie, 'n kopieregbeleid en 'n opsomming van die opleidingsdata. 'n Beginmaatskappy wat 'n klein model oplei, is dus nie heeltemal sonder verpligtinge nie, al dien daardie pligte deursigtigheid en kopiereg eerder as veiligheid. En ek het geen openbare raming gevind van wat dit kos om by die lyn van 10^25 daaraan te voldoen nie. As dit 'n groot vaste bedrag blyk te wees, word dit sowel 'n rem as 'n grag. Bronne: die KI-wet; die Kommissie se riglyne; Regulasie (EU) 2026/1744.

Regulering op entiteitsvlak. Dean Ball en Ketan Ramakrishnan het voorgestel dat die maatskappye aan die voorpunt gereguleer word eerder as hul modelle, soos banke gereguleer word, met as voorbeeld 'n sneller van meer as $1 miljard per jaar se besteding aan KI-navorsing. Dit stel die kleines vry soos 'n inkomstevloer doen. 'n Reël vir entiteite is 'n rem wanneer die entiteite omskryf word deur wat hulle bestee of oplei, en 'n grag wanneer hulle omskryf word deur wie eerste daar was; hierdie een word deur besteding omskryf. Op sy eie kan 'n bestedingsneller 'n klein laboratorium met 'n lopie op voorpuntskaal mis. Daarvoor is 'n rekenkraglyn, en die FRONTIER Act gebruik nou albei. Bron: Carnegie Endowment, Julie 2025.

Amerikaanse uitvoerbeheer op KI-skyfies. Die essay noem dit 'n muur, en mure word omseil. Vanjaar se rekord strook daarmee. In Januarie het die departement van handel die verkoop van skyfies van die H200-klas aan China verskuif van 'n vermoede van weiering na beoordeling per geval. Einde Mei het dit gesê dat lisensies nodig is vir versendings na maatskappye met hul hoofkantoor in China, waar hulle ook al is. Laat in Augustus was dit besig om 'n reël oor afstandstoegang op te stel, ná berigte dat Chinese firmas beperkte skyfies in datasentrums in Suidoos-Asië huur. Op die toets stop 'n muur 'n land, nie 'n vermoë of 'n maatskappy nie, en dit doen niks aan oopgewig-modelle sodra hulle vrygestel is nie. Wat die essay eerder sou bou, is 'n venster: sigbaarheid van rekenkrag, sodat 'n regering kan sê hoeveel lopies op voorpuntskaal daar verlede kwartaal was, en waar. Bronne: Federal Register, 15 Jan; Al Jazeera, 1 Jun; Tech Times, 29 Aug.

Verbodde op oopgewig-modelle. In Julie, nadat die Withuis 'n Chinese laboratorium daarvan beskuldig het dat dit 'n Amerikaanse model gedistilleer het, is berig dat die administrasie 'n verbod op Chinese oopgewig-modelle oorweeg. Hugging Face, Meta, Microsoft, Mistral, Nvidia en ander het hulle skriftelik teen breë beperkings uitgespreek. Daar is niks op skrif nie. Die essay se uitspraak dek verbodde in die algemeen: 'n verbod koop 'n mate van beskerming teen misbruik, want die persoon wat die gewigte aflaai, is die een wat geen reël kan sien nie, en dit betaal daarvoor met konsentrasie, deur die voorpunt aan die handjievol oor te laat wat dit kan oplei. Ek plaas konsentrasie eerste, so ek sou die ruil weier. 'n Verbod wat net op een land se modelle gemik is, is 'n ander reël, en dit is te vroeg om dit te beoordeel. Bronne: TechCrunch, 24 Jul; Lawfare.

'n Mededingende toets

Op 16 September het ComplianceHub 'n "toets vir reguleerdersinname" gepubliseer vir die toesigvoorstelle wat tans in die Kongres en die state behandel word: lisensiëring, die rapportering van voorvalle, noodskakelaars en 'n stillegging. Dit vra wie 'n reël bind, wie se koste dit verhoog, en of die laboratorium wat daarvoor vra, ook die een is wat daarby baat. Sy kernvraag is of 'n reël verander wie kan bou, of net wat bouers moet openbaar maak. Ons stem saam dat lisensiëring die grag is. Ons verskil op drie punte. Dit gee gewig aan wie vra; ek doen dit nie, want daardie aanklag kan teen enige reël gemaak word, en dit is die teks wat bind. Dit beskou 'n rekenkrag- of vermoëdrempel as die deel van 'n reguleringstelsel wat gevestigde spelers beskerm. Ek dink die drempel is 'n rem se beste instrument, solank die lyn saam met die voorpunt skuif en die koste saam met die lopie groei. Die grag is die lisensie wat daaraan gekoppel word. En dit beskou die rapportering van voorvalle wat elke ontwikkelaar bind, as die reël wat die minste vatbaar is vir inname, terwyl my toets eers vra of 'n beginmaatskappy wat 'n klein model oplei, met rus gelaat word. Die rapporteringspligte in SB 53, RAISE en die FRONTIER Act laat so 'n beginmaatskappy met rus; 'n reël wat almal bind, doen dit nie. Bron: ComplianceHub, 16 Sep.

Hoe om met my te verskil

Sê vir my watter ry, en watter feit ek verkeerd het of watter antwoord in die teks ek gemis het: die lyn, die koste by die drempel, wie dit nagaan en wie hulle betaal. Antwoord my op X by @cobuskok. As jy reg is, beoordeel ek die ry opnuut en verander ek sy datum. Een openbaarmaking: ek skryf saam met Claude, wat Anthropic maak, en drie rye beoordeel Anthropic se eie voorstel, so hou dit in gedagte wanneer jy daardie rye weeg.

Laas bygewerk op 23 September 2026.