Als de architecten van AI op de rem trappen, moet jij niet blind gas geven
Het klinkt als de ultieme droom voor elke ondernemer: systemen installeren, automatiseren en er vervolgens niet meer naar omkijken. Toch zien we in de top van de markt precies de tegenovergestelde beweging. Anthropic, het moederbedrijf achter Claude en inmiddels gewaardeerd op een duizelingwekkende 380 miljard dollar, heeft deze week een veelzeggende zet gedaan. Ze hebben geen nieuwe engineer of data-wetenschapper aangesteld om hun Long-Term Benefit Trust te versterken, maar Mariano-Florentino Cuéllar. Een voormalig rechter van het Hooggerechtshof in Californië en een expert in internationale diplomatie.
Waarom is dit relevant voor jouw bedrijf? Omdat het laat zien dat de focus verschuift. De tijd van ‘kijk maar wat het model doet’ is voorbij. In 2026 is de technologie zo krachtig geworden dat technische competentie niet meer genoeg is; het gaat om moreel en juridisch toezicht. Eerlijk gezegd is dit een waarschuwing verpakt in een persbericht. Als de makers van de technologie zelf zwaar investeren in noodremmen en ethische kaders, is het onverstandig om als MKB-ondernemer AI in je klantenservice of administratie te integreren zonder enige vorm van toezicht. Governance klinkt als een saai woord voor beursgenoteerde bedrijven, maar in de praktijk is het gewoon je verzekering tegen reputatieschade.
Waarom diplomatie belangrijker wordt dan code
De aanstelling van iemand als Cuéllar onderstreept een trend die we niet kunnen negeren: AI is geen IT-feestje meer. Het is een verlengstuk van je bedrijfsidentiteit en je juridische aansprakelijkheid. Anthropic erkent met deze stap dat AI-modellen impact hebben op geopolitieke verhoudingen en democratische instituties. Vertaal je dat naar het niveau van de gemiddelde Nederlandse onderneming, dan gaat het over klantvertrouwen en merkidentiteit. Een AI-agent die zelfstandig offertes uitstuurt of klachten afhandelt, heeft direct invloed op je cashflow en je reputatie.
Wat we in de praktijk vaak zien, is dat bedrijven AI puur op efficiëntie beoordelen. ‘Het bespaart ons 12 uur per week aan emailverkeer’, is dan het argument. Maar als die besparing ten koste gaat van de nuance in je communicatie, of erger nog, leidt tot verkeerde adviezen aan klanten, is die winst snel verdampt. De keuze voor een zwaargewicht uit de juridische en diplomatieke wereld bij Anthropic toont aan dat ‘oordeelsvorming’ de volgende grote uitdaging is. Code kan rekenen, maar kan het oordelen? Voorlopig is het antwoord nee. Governance betekent in jouw geval: wie controleert de robot? Het is niet genoeg dat de software werkt; de output moet kloppen met wie jij bent als bedrijf. Zonder die controlelaag geef je de sleutels van je merk aan een stagiair die nooit slaapt, maar ook geen geweten heeft.
Organiseer je eigen ‘Human in the Loop’
Je hoeft geen ‘Long-Term Benefit Trust’ op te richten of een voormalig rechter in te huren om je automatisering veilig te stellen. Maar je moet wel afstappen van het ‘set and forget’ principe. Governance begint klein. Definieer bijvoorbeeld een ‘Grondwet’ voor je AI-systemen. Wat mag de bot absoluut nooit toezeggen? Welke toon is verboden? En belangrijker: wanneer moet het systeem zwijgen en een mens roepen?
Zorg voor een verplichte periodieke audit van je geautomatiseerde processen. Laat één keer per week een medewerker (niet de IT-specialist, maar iemand van de werkvloer) door de logs van je AI-interacties gaan. Zoek naar hallucinaties, onhandige formuleringen of gemiste signalen. Dit is geen wantrouwen naar de technologie, maar gezond verstand. Net zoals je de boeken laat controleren door een accountant, moet je je geautomatiseerde output laten toetsen door een mens. De technologieontwikkelaars dekken zich in op het hoogste niveau met bestuursraden en trusts. Het minste wat jij kunt doen, is zorgen dat er altijd een paar menselijke ogen meekijken voordat, en nadat, je op ‘verzenden’ drukt.