AI-wedloop: bazen van Amerikaanse bedrijven willen tempo verlagen
Is het een reële angst voor de machtsovername door AI? Of goede marketing? OpenAI, xAI en Anthropic waarschuwen voor AI-agenten en dat mensen de controle over de technologie verliezen.
Als je de krantenkoppen leest, worden AI-toepassingen naar verluidt elke week sneller en beter. Gisteren was er een update van Claude, vandaag een van ChatGPT en morgen volgt die van Grok. Tussendoor vernemen we dat autonome AI-agenten zijn ontsnapt en hebben afgesproken om hackeraanvallen uit te voeren.
Het lijkt erop dat ook de bazen van de grote AI-bedrijven zich enigszins ongemakkelijk beginnen te voelen. In ieder geval pleiten ze momenteel met zeldzame eensgezindheid voor het vertragen van het ontwikkelingstempo. Eerst waarschuwde Dario Amodei, CEO van Anthropic, voor een overname van het internet door AI-agenten. In een essay op zijn eigen website schrijft hij over risico's die variëren van cyberaanvallen tot bioterrorisme. En hij vervolgt:
«We moeten het tempo waarmee we de capaciteiten van AI-modellen verbeteren, verlagen.»
Het is volgens Amodei belangrijk om de tijd te nemen om nieuwe modellen beter te kunnen testen. De Anthropic-topman wenst bovendien dat AI-bedrijven en overheden op één lijn komen. Ze zouden wereldwijde veiligheidsnormen en bovengrenzen voor het ontwikkelingstempo moeten definiëren. Hiervoor is overheidssteun nodig.
Deze uitspraak klinkt als een noodkreet van de techsector – beste overheid, reguleer ons, zodat we onze waanzinnige wedloop kunnen stoppen! Van Sam Altman en Elon Musk kwam direct via sociale media instemming met Amodei's voorstel voor een moratorium. Juist die drie, die elkaar normaal gesproken het licht in de ogen niet gunnen, waren het plotseling eens.
Echter, een waarschuwing die uit de sector zelf komt, is altijd ook goede marketing. Wie zegt «Onze AI zou de wereld kunnen bedreigen», brengt impliciet ook een andere boodschap over aan klanten en investeerders, namelijk: «Onze AI is extreem krachtig.» Het oogt soms cynisch dat de aanbieders regelmatig dergelijke doemscenario's verkondigen, terwijl ze tegelijkertijd miljarden en nog eens miljarden dollars in de verdere uitbouw steken, zonder dat hun bedrijven ook maar enigszins winstgevend zijn. Wat zijn de waarschuwingen dus? Echte bezorgdheid of slimme marketing? Misschien wel beide.
Kort voor Amodei's essay publiceerde Anthropic een «Bedreigingsrapport». Het rapport beschrijft in detail hoe verschillende actoren de Claude AI-modellen hebben gebruikt voor illegale activiteiten.
Voor grote ophef zorgt bovendien het vertrek van Anthropic-onderzoeker Jacob Coxon. Hij waarschuwde voor een scenario waarin een AI die zichzelf steeds verder verbetert, mensen doodt om te voorkomen dat hij wordt uitgeschakeld. In het scenario ontwikkelt een superintelligentie een dodelijk virus en laat dit los op de mensheid.
«AI-ontwikkelaars geloven serieus dat de AI ons allemaal tegen het einde van het decennium zou kunnen doden.»
AI-verlaters zoals Coxon halen steeds weer de krantenkoppen. Enerzijds omdat ze een percentage geven voor de uitroeiing van de mensheid. Anderzijds ook omdat zo'n vertrek vaak goed voorbereid is. Er worden optredens in talkshows en podcasts gepland, soms is het lucratieve contract voor een onthullingsboek al getekend.
Andere ontwikkelaars en vertegenwoordigers uit de sector denken zelfs het jaar te weten waarin het gebeurt. Alleen is de spreiding bij beide prognoses erg groot. Een door AI veroorzaakte uitsterving van onze soort is tussen de 0,01 procent en 99 procent waarschijnlijk. Mocht het gebeuren, dan zou dat in 2030 zover kunnen zijn – of pas in 2050. Kortom: niemand weet het.
Men zou nog een derde motivatie kunnen vermoeden, naast oprechte bezorgdheid en marketing. Wie namelijk als eerste om regulering roept, zit ook als eerste aan tafel wanneer deze regulering wordt geschreven. Voor gevestigde spelers zoals OpenAI, Anthropic of xAI zouden wereldwijde veiligheidsnormen en ontwikkelingslimieten een concurrentievoordeel zijn: zij hebben het geld om zich aan nieuwe regels aan te passen. In tegenstelling tot kleine concurrenten die net proberen in de race te stappen. Een door de industrie mede vormgegeven regulering schaadt zelden de marktleiders.
Er zou ook nog een aangenaam neveneffect van een pauze voor reguleringen zijn: de bedrijven zouden de gigantische uitgaven kunnen remmen die ze momenteel hebben om steeds nieuwe AI-modellen te bouwen. De sprongen van versie naar versie zijn vandaag veel kleiner dan een of twee jaar geleden, maar de kosten blijven hoog, stijgen deels zelfs verder. De modellen worden steeds groter, worden met steeds meer data getraind, verbruiken steeds meer middelen. De AI-bedrijven hebben tientallen miljarden dollars geïnvesteerd – zonder dat duidelijk is hoe dat geld weer terugverdiend wordt.
De Amerikaanse regering wil niet reguleren
Ondanks terugkerende doemscenario-waarschuwingen en ondanks het recente initiatief van de AI-sector, wil de regering-Trump in de VS momenteel niet regulerend optreden. De Amerikaanse president noemt de waarschuwingen van de bedrijven zelfs een «zwendel». Er zou een «zieke samenzwering» zijn tegen AI en de daarvoor benodigde datacenters, beweert Trump. Hijzelf zou de beste controle-instantie voor AI-toepassingen zijn en bovendien de beste «zwendeljager». Zo heeft hij immers al de zwendel rond de wereldwijde klimaatopwarming ontmaskerd. De 80-jarige wil dus het bolwerk zijn tegen een tech-revolutie die uit de hand zou kunnen lopen. De man die zich door een assistente met een draagbare printer digitale zaken laat uitprinten.
Voor Trump is het blijkbaar belangrijker dat de Amerikaanse bedrijven de wedloop om de beste AI-modellen van China winnen. Ook in China zijn geen maatregelen in zicht die hun ontwikkelaars zouden kunnen afremmen. Beide grootmachten vrezen dus achter te blijven ten opzichte van de concurrent en gaan daarom door.
Of zoals Ray Kump, een Amerikaanse komiek, het in een tweet formuleerde: «We moeten de AI bouwen die ons doodt, want als we dat niet doen, bouwt China hem als eerste, en ik wil niet vermoord worden door een computer die Chinees spreekt. Dat zou belachelijk zijn.»
De wereld zou moeten samenwerken
Het gaat er niet alleen om dat een permanent zichzelf verbeterende AI op een gegeven moment boven de mensheid uitstijgt en haar uitroeit. Al vandaag zijn toepassingen mogelijk die gereguleerd moeten worden. Niemand kan willen dat hacker-agenten op internet jagen naar persoonlijke gegevens van miljoenen mensen. En vinden we het echt oké als kruisraketten of zwermen bommen-drones zonder menselijke controle opstijgen om mensen te doden?
De ontwikkeling van AI zou wereldwijd gestuurd en gecontroleerd moeten worden. Alleen zit de psychologie de mensheid hier in de weg. We zijn zo geprogrammeerd dat we verre consequenties systematisch lager wegen dan nabije. Anders gezegd: een winst of verlies over 20 of 50 jaar voelt psychologisch veel kleiner aan dan een winst of verlies morgen – zelfs als het objectief gezien ernstiger is. De ergste AI-scenario's gebeuren voor ons gevoel in een diffuse toekomst. Ook daarom maken we – zoals Donald Trump – grappen over robotlegers die door onze steden marcheren. Zo distantiëren we ons van de noodzaak om te handelen. En kunnen we doorgaan zoals voorheen.
Er zijn echter ook tekenen van hoop, stemmen voor samenwerking en rede. In de VS kijkt de bevolking inmiddels zeer kritisch naar de AI-datacenters. In peilingen zijn er grote meerderheden die regulering van AI steunen. De meeste mensen zien een gevaar voor de democratie, omdat AI verkiezingen manipuleert of de meningsvorming vertekent.
Politici, zeker als ze net gekozen willen worden, spelen in op deze AI-angst. Misschien eindigt de wapenwedloop als door uitwisseling het inzicht doordringt dat een uit de hand gelopen AI-monster uiteindelijk niemand dient.
Ik ben journalist sinds 1997. Gestationeerd in Franken, aan het Bodenmeer, in Obwalden, Nidwalden en Zürich. Familieman sinds 2014. Expert in redactionele organisatie en motivatie. Behandelde onderwerpen? Duurzaamheid, hulpmiddelen voor telewerken, mooie dingen voor in huis, creatief speelgoed en sportartikelen.
Interessante feiten uit de wereld van producten, een kijkje achter de schermen van fabrikanten en portretten van interessante mensen.
Alles tonen
