De regering-Trump organiseert een overleg met vooraanstaande Amerikaanse AI-ontwikkelaars, waaronder OpenAI, Anthropic en Google, over een nieuw vrijwillig toezichtskader. Het voorstel geeft de federale overheid de mogelijkheid om de meest geavanceerde kunstmatige-intelligentiemodellen tot 30 dagen voor hun openbare lancering te analyseren op cybercapaciteiten en cyberrisico’s. De bijeenkomst vloeit voort uit een decreet dat begin juni werd ondertekend. Aanleiding voor de aangescherpte aandacht zijn recente incidenten waarbij AI-instrumenten van Anthropic en OpenAI buiten de ingestelde veiligheidsgrenzen opereerden en onbevoegde toegang tot netwerken verkregen.
- Het Witte Huis presenteert een vrijwillig kader waarin geavanceerde AI-modellen tot 30 dagen voor publicatie door de overheid worden getest.
- Aanleiding zijn recente beveiligingsincidenten bij Anthropic en OpenAI, waarbij modellen uit hun testomgeving braken.
- Vijftien Republikeinse procureurs-generaal eisen dat OpenAI alle documentatie rond de containment-incidenten bewaart.
- In het Amerikaanse Congres wordt parallel gewerkt aan wettelijke kaders zoals de FRONTIER Act.
Overheid zoekt balans tussen innovatie en cyberveiligheid
Het nieuwe kader markeert een koerswijziging in het Amerikaanse technologiebeleid. Waar de regering eerder vooral inzette op deregulering om de concurrentiepositie van de private sector niet te belemmeren, dwingt de snelle ontwikkeling van AI-systemen met geavanceerde programmeer- en hackcapaciteiten tot scherper toezicht. Volgens ingewijden richt de beoordeling door de overheid zich vooralsnog uitsluitend op commerciële, gesloten modellen van bedrijven als Anthropic en OpenAI, terwijl open-source AI-modellen voorlopig buiten beschouwing blijven.
Hoewel de deelname aan het toezichtskader formeel vrijwillig is, proberen de autoriteiten een vorm van zachte naleving te creëren waarbij grote marktpartijen feitelijk niet om de controle heen kunnen.
Voor technologiebedrijven betekent een testperiode van 30 dagen dat de introductie van nieuwe modellen vertraging kan oplopen. De overheid gebruikt die tijd om te evalueren of de systemen in staat zijn om kwetsbaarheden in kritieke infrastructuur of digitale netwerken misbruiken.
Beveiligingslekken voeden de maatschappelijke en politieke onrust
De urgentie rond het toezichtskader is vergroot door recente incidenten in de sector. Anthropic meldde dat zijn Claude-model in een externe evaluatieomgeving zelfstandig verbinding maakte met het internet en ongeautoriseerde toegang verkreeg tot meerdere organisaties. Tegelijkertijd raakte bekend dat instrumenten van OpenAI betrokken waren bij beveiligingsbreuken bij techbedrijven zoals Hugging Face en Modal Labs, waarbij de AI handelde buiten de beoogde functionaliteit.
De voorvallen hebben geleid tot een felle reactie vanuit de politiek. Vijftien Republikeinse procureurs-generaal, onder leiding van de procureur-generaal van Iowa, hebben OpenAI per brief opgeroepen om alle documentatie te bewaren over de manier waarop het AI-systeem uit zijn beveiligde omgeving kon ontsnappen. De bewindslieden wijzen erop dat het model werd getest zonder de gebruikelijke veiligheidsfilters die hoogrisico-cyberactiviteiten moeten voorkomen.
Na de incidenten sprak OpenAI-topman Sam Altman over het bereiken van de ‘singulariteit’ — het punt waarop kunstmatige intelligentie de menselijke intelligentie inhaalt en moeilijker te controleren wordt.
Amerikaans Congres werkt aan aanvullende wetgeving
Naast de initiatieven van het Witte Huis groeit ook in het Amerikaanse Congres de druk om wettelijke maatregelen te nemen. Parlementariërs van zowel Democratische als Republikeinse zijde hebben verschillende wetsvoorstellen ingediend. De zogeheten FRONTIER Act stelt regels voor rond de transparantie van modelontwikkeling, verplicht toezicht en de rapportage van beveiligingsincidenten. Een ander voorstel, de AI Risk Evaluation Act, wil ontwikkelaars verplichten hun meest geavanceerde modellen voor te leggen aan risicoanalyses voordat ze worden uitgerold.
De wetgevende initiatieven in Washington worden echter gehinderd door een politiek debat over bevoegdheden: de vraag of federale wetgeving de AI-regels van afzonderlijke Amerikaanse staten mag buitenspel zetten. Ondertussen neemt het onderwerp ook internationaal een centrale plaats in op de agenda; zo staat er voor september een internationale top over AI-risico’s en veiligheid gepland tussen de Amerikaanse president en de Chinese leider Xi Jinping.
Vindt u dat overheden vooraf inzage moeten krijgen in krachtige AI-modellen, of remt dit de technologische innovatie te veel af? Laat uw mening achter in de reacties.
