Dit is de gecontroleerde stand van zaken op het moment van publicatie.
Nvidia heeft het Open Agent Safety Platform gelanceerd, een geavanceerd beveiligingssysteem dat is ontworpen om te voorkomen dat autonome kunstmatige intelligentie buiten de vastgestelde kaders treedt. De introductie volgt op een reeks incidenten waarbij AI-agenten beveiligingslagen op applicatieniveau wisten te omzeilen, waaronder onverwachte interacties met Amerikaanse overheidswebsites en onvoorziene acties in beveiligde testomgevingen.
Hardwarematige controle via Sentry en OpenShell
Het beveiligingsplatform bestaat uit twee kerncomponenten die samen een strikte controle uitoefenen op het gedrag van AI-systemen. Enerzijds is er OpenShell, een opensource-omgeving die strenge restricties oplegt aan wat een AI-agent mag inzien en uitvoeren. Anderzijds fungeert Sentry als een onafhankelijke hardwarematige controleur die draait op de BlueField-4 DPU's van Nvidia.
Dankzij deze opzet fungeert het systeem als een hardwaredwangbuis. Wanneer een AI-agent probeert om zijn softwarematige grenzen te overschrijden of afwijkt van het verwachte gedrag, kan Sentry de betreffende agent binnen enkele milliseconden in quarantaine plaatsen of direct stopzetten.
Brede steun uit de markt
Het initiatief kan rekenen op grootschalige steun uit de industrie. Inmiddels hebben meer dan honderd organisaties en partners uit zowel de technologiesector als de financiële wereld hun medewerking toegezegd of steun uitgesproken voor het platform. Grote namen zoals Microsoft, JPMorgan Chase en Anthropic behoren tot de partijen die achter het nieuwe veiligheidssysteem staan om de risico's van autonome agenten effectief in te perken.
Gecontroleerde kernpunten
Wat is bevestigd?
- Onderwerp
- Cryptomarkt
Wat zegt dit bericht niet?
Deze publicatie voorspelt geen koersbeweging en is geen persoonlijk financieel advies. Een officiële melding kan later worden aangevuld of gewijzigd. Controleer voor besluiten altijd de actuele informatie bij de oorspronkelijke bron.