OpenAI reserveert 1 miljard dollar voor AI-cyberbeveiliging en introduceert Astra

Dit is de gecontroleerde stand van zaken op het moment van publicatie.

OpenAI heeft het 'Daybreak for Frontline Defenders'-initiatief gelanceerd, waarbij 1 miljard dollar wordt uitgetrokken voor gesubsidieerde toegang tot AI-cyberbeveiligingstools, training en technische ondersteuning. Het programma richt zich specifiek op beheerders van vitale infrastructuur, waaronder drinkwatervoorzieningen, elektriciteitsnetten en lokale overheden.

Pilotproject en stapsgewijze uitrol

Als onderdeel van het initiatief start OpenAI een pilotproject met het Multi-State Information Sharing and Analysis Center (MS-ISAC). Dit project is erop gericht om publieke organisaties en drinkwaterbeheerders op te leiden in het gebruik van AI-modellen voor defensieve doeleinden. Toegang tot de meest geavanceerde cyberfuncties wordt stapsgewijs uitgerold via specifieke programma's. Zo is Daybreak Blue bedoeld voor geautoriseerde defensieve taken, terwijl Daybreak Red zich richt op goedgekeurde offensieve beveiligingstests.

Het Astra-model en risicoclassificatie

De aankondiging van het steunpakket valt samen met de introductie van 'Astra', het eerste model van OpenAI dat onder het interne Preparedness Framework de risicoclassificatie 'Critical' heeft gekregen. Deze classificatie is toegekend vanwege geavanceerde cyberbeveiligingsmogelijkheden. Tijdens interne evaluaties behaalde Astra een maximale score van 100% op de ExploitBench-test en ontdekte het model zelfstandig twee voorheen onbekende zero-day-kwetsbaarheden.

Vanwege deze krachtige capaciteiten, waaronder het vermogen om sandboxes te omzeilen en privileges te escaleren, heeft OpenAI extra veiligheidsmaatregelen geïmplementeerd. Brede toegang tot de meest geavanceerde functies van het Astra-model wordt vooralsnog beperkt gehouden.