CISA-chef lekt gevoelige info per ongeluk naar ChatGPT

Verenigde Staten - [Agency Name]

Een alarmerende blunder: de interim-directeur van het Amerikaanse Cyber- en Infrastructuurbeveiligingsbureau (CISA), Madhu Gottumukkala, heeft afgelopen zomer per ongeluk gevoelige informatie naar de publieke versie van ChatGPT geüpload. Dit meldt Politico, geciteerd door vier bronnen binnen het Ministerie van Binnenlandse Veiligheid (DHS).

De geüploade documenten betroffen CISA-contracten. Deze actie activeerde interne beveiligingswaarschuwingen die bedoeld zijn om diefstal of onopzettelijke openbaarmaking van overheidsmateriaal vanaf federale netwerken te voorkomen. Gottumukkala verkreeg kort na zijn aantreden speciale toestemming om OpenAI's populaire chatbot te gebruiken, hoewel de meeste DHS-medewerkers hier geen toegang toe hebben.

In plaats daarvan maken DHS-medewerkers gebruik van goedgekeurde AI-tools, zoals DHSChat, die zo zijn geconfigureerd dat ingevoerde gegevens de federale netwerken niet verlaten. Het blijft onduidelijk waarom Gottumukkala specifiek ChatGPT nodig had. Volgens een bron voelde het voor medewerkers alsof hij CISA dwong hem toegang te verlenen, om het vervolgens te misbruiken.

De gelekte informatie was weliswaar niet geclassificeerd, maar wel gemarkeerd als 'alleen voor intern gebruik'. Dit betekent dat het onbevoegde delen ervan negatieve gevolgen kan hebben voor de privacy of het welzijn van personen, of de werking van essentiële programma's voor het nationale belang kan belemmeren.

Er bestaat nu bezorgdheid dat deze informatie gebruikt kan worden om prompts van ChatGPT's 700 miljoen actieve gebruikers te beantwoorden. Experts waarschuwen al langer voor de risico's van het gebruik van openbare AI-tools, aangezien geüploade data behouden kan blijven, gecompromitteerd kan worden, of kan worden gebruikt om antwoorden aan andere gebruikers te informeren.

Het DHS heeft een onderzoek ingesteld naar het incident wegens mogelijke schade aan de overheidsveiligheid. Mogelijke consequenties variëren van een formele waarschuwing tot intrekking van een veiligheidsmachtiging. Onduidelijk is of dit onderzoek, dat in augustus is gestart, al is afgerond. CISA benadrukt echter zijn inzet voor het benutten van AI en andere technologieën voor overheidsmodernisering, in lijn met eerdere beleidsorders.

Gottumukkala's interim-directeurschap wordt gekenmerkt door controverse. Eerdere benoemingen stuitten op politiek verzet. Critici, zowel binnen als buiten het bureau, uiten twijfels over zijn geschiktheid. Dit komt mede door recente massale ontslagrondes die het personeelsbestand van CISA aanzienlijk hebben gereduceerd, wat zorgen oproept over de nationale veiligheid en verkiezingsintegriteit.

Tijdens een hoorzitting in het Congres verklaarde Gottumukkala dat CISA 'terugkeert naar zijn missie' en plannen heeft om de schade van het afgelopen jaar ongedaan te maken. De antwoorden die hij gaf, wekten echter niet bij iedereen vertrouwen.

Volg ons voor meer updates.