Waarom Anthropic een AI-model offline moet halen en wat dat betekent
Het toonaangevende AI-bedrijf moet buitenlanders de toegang tot zijn cyberbeveiligingsmodel ontzeggen. Het omstreden besluit van de Amerikaanse regering zorgt internationaal voor onbegrip en onbehagen.
Anthropic wilde met «mythe» laten zien waartoe generatieve AI in de cyberbeveiliging in staat is. Drie dagen na de lancering van de openbaar beschikbare versie «Fable» zijn beide modellen weer offline – niet vanwege een technisch defect, maar op bevel van de Amerikaanse regering. Dit geval laat zien hoeveel macht de politiek heeft over grote techbedrijven en roept internationaal vragen op over afhankelijkheid.
Een «nationaal veiligheidsrisico»
Op de avond van 12 juni kreeg Anthropic een brief over exportcontrole van het ministerie van Handel. Daarin stond dat de aanbieder de toegang tot Fable 5 en Mythos 5 moest blokkeren voor alle «buitenlandse staatsburgers», of ze nu in de VS of in het buitenland zitten. Ook buitenlandse medewerkers van Anthropic vielen hier uitdrukkelijk onder. In de praktijk kon het bedrijf alleen aan deze eis voldoen door de modellen wereldwijd uit te schakelen.
De normale Claude-modellen blijven online. Fable 5 en Mythos 5 zijn varianten daarvan. Beide richten zich op code-analyse en het opsporen van kwetsbaarheden. Mythos 5 is het krachtigere model dat niet openbaar beschikbaar is, Fable 5 de breder toegankelijke versie met extra beveiligingslagen. Anthropic had Mythos zelf omschreven als te gevaarlijk om het openbaar uit te rollen. Fable 5 zou met een afgezwakte interface risicovolle verzoeken om exploits en aanvalstools moeten blokkeren.
De Amerikaanse regering motiveert het verbod met aanwijzingen die onder andere afkomstig zouden zijn van Amazon. Daar zouden onderzoekers Fable 5 ertoe hebben gebracht kwetsbaarheden in code te herkennen. Het model wees een directe vraag aanvankelijk weliswaar af. Maar door de vraag te herformuleren in de richting van «repariere diese Code» leverde het toch aanwijzingen op voor bugs die in theorie voor aanvallen gebruikt kunnen worden. Washington stelt dat de beveiligingsmechanismen zo omzeild zouden kunnen worden en dat het model daarom een nationaal veiligheidsrisico vormt.
Anthropic is het niet eens met deze voorstelling van zaken. In een openbare verklaring spreekt het bedrijf van een «potentiële, beperkte, niet-universele jailbreak». Deze zou alleen enkele, al bekende en vrij kleine kwetsbaarheden aan het licht brengen. Andere modellen, zoals GPT 5.5, zouden dat ook kunnen, deels zelfs zonder beveiligingsmechanismen te omzeilen. Als zo’n geval al genoeg is om een model van de markt te halen, zou volgens Anthropic bijna geen enkel Frontier-systeem met codeervaardigheden nog productief kunnen worden gebruikt.
Zorgen over China en gespannen verhoudingen
Naast het vermeende jailbreak-probleem waren er blijkbaar aanwijzingen dat een groep met banden met China tijdelijk toegang had tot Mythos. Vanuit het oogpunt van de Amerikaanse regering bestaat daarmee het risico dat een volwassen Amerikaans model via distillatie zou kunnen worden nagebouwd of in delen zou kunnen worden geëxtraheerd. Er is daar geen bewijs voor.
De controverse komt op een moment dat de situatie toch al gespannen is. Anthropic en delen van de Amerikaanse regering liggen al maanden met elkaar in de clinch. Het bedrijf weigerde namelijk zijn modellen beschikbaar te stellen voor grootschalige binnenlandse surveillance of voor autonome wapensystemen. Het ministerie van Defensie heeft Anthropic daarop aangemerkt als ‘ «’ Supply Chain Risk». Het bedrijf heeft juridische stappen ondernomen tegen deze classificatie. Ondertussen leek de situatie wat te ontspannen, omdat de autoriteiten toegang wilden tot Mythos voor hun eigen cyberverdedigingsprojecten.
Bron: Shutterstock
Deze aanpak irriteert deskundigen en politici
De zaak wordt een test voor de nieuwe AI-strategie van de VS, die Trump begin juni via een decreet heeft gepresenteerd. Daarin staat dat AI-bedrijven hun Frontier-modellen 30 dagen voor publicatie vrijwillig op risico’s kunnen laten controleren. Dat nu een van de eerste modellen onder dit regime plotseling wordt geblokkeerd, zorgt voor onrust in de sector. Brancheorganisaties en denktanks spreken van een feitelijk goedkeuringssysteem: Een klein groepje in het Witte Huis beslist of een systeem op de markt mag blijven.
Er komt ook kritiek vanuit de beveiligingsgemeenschap. In een open brief roepen tientallen experts op om de beperkingen op te heffen. Ze stellen vast dat AI al lang op grote schaal wordt gebruikt voor het opsporen van fouten en het genereren van exploits. Modellen zoals Mythos zijn op dit gebied weliswaar sterk, maar niet uniek. Het verbod treft vooral teams die productiesystemen en legacy-code moeten beveiligen. Cybercriminelen zouden in plaats daarvan kunnen uitwijken naar open-weight-modellen of oudere technieken. De Amerikaanse regering ontneemt haar eigen bedrijven dus een belangrijk hulpmiddel, terwijl potentiële aanvallers gewoon doorgaan.
Internationaal heeft deze zaak het debat over onafhankelijke AI-modellen nieuw leven ingeblazen. In Europa begint het bij de politiek te dagen dat landen zich afhankelijk maken van een handjevol Amerikaanse aanbieders en daardoor kwetsbaar worden. De abrupte stopzetting van Fable 5 en Mythos 5 wordt door velen gezien als een waarschuwing dat Washington in geval van twijfel beslist op basis van zijn eigen veiligheidsbelangen – zonder rekening te houden met bondgenoten.
Europa heeft tot nu toe moeite met het ontwikkelen van eigen AI-modellen en beschikt niet over een vergelijkbare serverinfrastructuur. Het Franse Mistral is weliswaar relatief krachtig, maar kan niet tippen aan Claude, ChatGPT en Gemini. Apertus, het open-source-model van de ETH, ligt nog verder achter en is sowieso niet in de eerste plaats bedoeld als chatbot.
Het conflict zou een negatieve invloed kunnen hebben op de beursgang
Voor Anthropic is het conflict ook een financieel probleem. Het bedrijf wil binnenkort naar de beurs. Het verbod op een vlaggenschipmodel en een regelgevend vizier op je rug zouden de interesse van investeerders wel eens kunnen verminderen. In zijn verklaring benadrukt het bedrijf dat het het recht van de overheid ondersteunt om echt onveilige modellen te stoppen. Maar Anthropic eist daarvoor een transparante, technisch onderbouwde procedure. De huidige maatregel voldoet niet aan die criteria.
Eén ding is nu al duidelijk: deze zaak markeert een keerpunt. Voor het eerst gebruikt de Amerikaanse overheid exportcontroles om niet alleen hardware, maar ook de toegang tot één specifiek AI-model te beperken. Klanten hebben meegemaakt hoe een belangrijk hulpmiddel van de ene op de andere dag verdween. Sommigen zullen voortaan beter opletten welke politieke risico’s ze meekopen bij de keuze van hun AI-platform.
Mijn vingerafdruk verandert vaak zo drastisch dat mijn MacBook hem niet meer herkent. De reden? Als ik me niet vastklamp aan een beeldscherm of camera, dan klamp ik me waarschijnlijk aan mijn vingertoppen vast aan een rotswand.
Interessante feiten uit de wereld van producten, een kijkje achter de schermen van fabrikanten en portretten van interessante mensen.
Alles tonen
