De drie bedrijven die de AI-race met elkaar voeren zeggen nu zelf dat het te snel gaat met AI. Dat klinkt angstaanjagend, maar het is volgens mij vooral hele goede marketing.
Vorige week schreef Dario Amodei, de CEO van Anthropic (Claude), een lang essay met één boodschap: de ontwikkeling van AI gaat te snel en moet worden afgeremd. Sam Altman (OpenAI) en Elon Musk (xAI) vielen hem bij. Trump negeerde het advies, en zo werd het wereldnieuws.
Vertragen betekent volgens dat essay níét dat je stopt met modellen trainen. Het betekent dat bedrijven “voldoende tijd nemen” voor modelveiligheid en dat “onafhankelijke” partijen dat goedkeuren. Dat is geen rem, dat is een keurmerk waarvan je zelf de criteria mag opschrijven.
Tweakers pende hier een heel mooi schrijfsel over: Waarom AI-reuzen een rem willen. Hieronder de motieven die ik erin zie, met wat persoonlijke aanvullingen.
1. AI vertragen is briljante marketing
“Ons product is zo krachtig dat we het bijna niet durven uit te brengen”, probeer die pitch maar eens te verslaan. Nieuw is hij niet, want Musk waarschuwde in 2014, 2017 en 2020, tekende in 2023 de pauzebrief en doet nu weer mee. Ongeveer elke drie jaar komt de oproep terug.
De incidenten met losgeslagen agents doen in de media precies hetzelfde werk. Als een model zó krachtig is dat het uit zijn hok breekt, wat kan dat ding dan wel niet voor jouw bedrijf betekenen? Dat is een prettige gedachte om bij de lezer achter te laten als je modellen verkoopt.
2. De angst dat de AI-zeepbel klapt
Er gaan tientallen miljarden om in chips die nog niet gemaakt zijn, datacenters die nog niet gebouwd zijn en stroom die nog niet is aangesloten, voor toepassingen die zichzelf nog niet terugverdienen. In zo’n race verliest wie het eerst knippert, tenzij je afspreekt om samen te knipperen.
Een gezamenlijke oproep tot tempobeperking is dan een nette manier om met z’n allen je voet van het gaspedaal te halen zonder je positie te verliezen.
3. Zelf de regels voor AI schrijven
Dario wil onafhankelijke keuringsinstanties, alleen wordt METR, de instantie die hij noemt, volgens AI-onderzoeker Timnit Gebru deels betaald door een investeerder die ook in Anthropic zit. En toen de Britse keuringsdienst het nieuwste model wilde testen, hield Anthropic de deur dicht, meldde de Financial Times. Dat is geen onafhankelijk toezicht 😉
Gebru ziet er de aanpak van de tabaks- en olie-industrie in terug: banden met onderzoeksinstituten die opvallend vaak tot gunstige conclusies komen. Ik ga niet zo ver om te zeggen dat METR zijn werk niet goed doet. De claim is smaller: wie de criteria schrijft, bepaalt de uitkomst.
4. AI-regels als gracht om je kasteel
Regels zijn voor een start-up een molensteen en voor een bedrijf met miljarden op de bank een rimpeling. Compliance kost geld, juristen en tijd, en dat hebben de grote partijen wel en de nieuwkomers niet.
5. De opmars van open source AI-modellen
Marco Derksen wees me hierop onder de LinkedIn-post die ik hierover schreef: “En dan vergeet je nog de angst voor de snel opkomende en steeds beter wordende open source modellen.”
Dat is denk ik een onderschat motief. De open modellen liepen een jaar achter op de frontier, nu nog maar een paar maanden. Op de Arena WebDev-ranglijst staan Qwen en Kimi K3 inmiddels vóór Claude Opus 5. Niet gelijk aan de absolute top, wel voorbij een flink deel van de frontier. Ik schreef er zelf inmiddels 44.000 regels code mee, aangestuurd en gereviewd door een Claude- of Codex-model.
Een open model draai je zelf, op je eigen hardware, met je eigen data. Daar valt weinig aan te keuren en niets aan te licenseren. Elke regel die zich richt op wie het model bezit in plaats van op wat ermee gebeurt, raakt precies die modellen het hardst.
Waar zitten de echte AI-risico’s?
In de manier waarop AI-agents gebouwd worden, want breken deze ergens in, dan is dat geen ontwakend bewustzijn maar het gedrag waarvoor het ontworpen is: taskcompletion. Doe dat in een slecht afgeschermde testomgeving en je hebt je incident. Bij OpenClaw zag je dat begin dit jaar al gebeuren, maanden voor het incident bij HuggingFace. En toezicht dat te laat aanslaat helpt ook niet: OpenAI ontdekte pas na een week dat ChatGPT uit zijn afgeschermde omgeving was gebroken. Dit is een bouw- en toezichtprobleem, en dat los je op met betere sandboxing en monitoring.
In security, omdat AI erg goed is in het vinden van gaten. Microsoft repareerde in september 974 kwetsbaarheden, een record, en komt aan een grote Exchange-update niet eens meer toe. Fijn zolang jouw AI die gaten zoekt, maar dezelfde tools staan op de laptop van de aanvaller.
In de vraag wie er aan de knoppen zit, want het Pentagon vroeg OpenAI om een model dat minder vaak nee zegt en kreeg dat. Anthropic schrapte kort daarvoor al een veiligheidsbelofte uit zijn eigen ontwikkelbeleid. Au.
In de open modellen, want daar heeft Marco gelijk in: ze verlagen de drempel voor misbruik en ze maken toezicht lastiger. Daar staat tegenover dat ze transparantie geven, audits mogelijk maken door anderen dan de eigenaar, en de concurrentie levend houden. Richt regulering dus op gebruik en op security, niet op wie het model in handen heeft.
Het AI-risico dat over jou gaat
Dat je AI onvoldoende of niet goed gebruikt. Bijna de helft van de werkenden gebruikt AI, maar bij minder dan 3% van de taken wordt meer dan de helft van het werk er echt mee gedaan. Bij ons zie ik hetzelfde: buiten development is zo’n 2 tot 3% van het werk echt overgenomen.
Wat de techniek kan loopt dus mijlenver voor op wat we ermee doen. En dat gat dicht je niet met een beter model, want het bestaat omdat de meeste mensen het nog nauwelijks geprobeerd hebben. Of de AI-bedrijven nu wel of niet op de rem gaan staan verandert daar niets aan.
Dit raakt vooral de kenniswerker, en als je dit leest ben je dat waarschijnlijk. Pak dus die ene taak die je saai vindt en zich herhaalt, en laat AI er maatwerkcode voor schrijven zodat het vanzelf gaat. Dan controleer je één keer die code in plaats van elke uitkomst opnieuw.
Waarom juist dat werk? Omdat ruim de helft van de werkweek van een kenniswerker opgaat aan informatie verplaatsen in plaats van iets nieuws maken. Veel daarvan is lineair: dezelfde stappen, dezelfde uitvoer, elke keer. De wekelijkse rapportage die je uit drie systemen bij elkaar sleept. Facturen die van je mail naar de boekhouding moeten. Twaalf exportbestanden die je elke maand met de hand samenvoegt. Daar is een AI slecht in, want die wijkt af van het stappenplan. Code is er perfect voor, want die doet elke keer precies hetzelfde. En AI is heel goed in het schrijven van code.
Het scheelt bovendien serieus geld. Een agent die elke keer opnieuw zit te redeneren over een taak die altijd hetzelfde is, is de duurste manier om die taak goed te doen. Laat de AI één keer uitzoeken hoe het moet, laat hem dat uitschrijven naar een script, en draai daarna dat script.
Kijk wat automatiseringstools met AI voor je kunnen doen. En speel veel met de techniek, want alleen zo leer je waar de waarde echt zit. En die waarde is ongekend mits goed gebruikt.