Toezichthouder bezorgd over ongebreideld AI-gebruik inlichtingendiensten

Inlichtingendiensten AIVD en MIVD gebruiken in toenemende mate AI en andere algoritmes, maar er zijn te weinig waarborgen om de risico's in te dammen. Dat schrijft de toezichthouder op de inlichtingendiensten, de CTIVD.

De inlichtingendiensten gebruiken zowel kunstmatige intelligentie als geautomatiseerde data-analyse (GDA) om gegevens te verwerken, teksten samen te vatten of vertalingen uit te voeren, schrijft de toezichthouder. Die worden vooral door de dienst zelf ontwikkeld.

Er is echter te weinig overzicht van waar welke slimme analysesystemen worden gebruikt. Een centraal overzicht of een AI-beleid was er tijdens het onderzoek van de CTIVD niet. Daardoor hangt veel af van het individuele oordeel van de medewerkers die AI-systemen maken.

Het risico is volgens de toezichthouder dat AI-systemen onbetrouwbaar kunnen zijn als ze verkeerd worden gebruikt. Omdat er geen goed overzicht is van het gebruik van AI, is het ook moeilijk voor de toezichthouder om te beoordelen of de diensten zich aan de regels houden.

De toezichthouder adviseert centrale kaders en werkwijzen te implementeren binnen de diensten, om het risico te verminderen. Hoewel de diensten volgens de toezichthouder wel duidelijke stappen zetten, verloopt "de ontwikkeling en toepassing van AI en GDA sneller dan de implementatie van bijbehorende kaders, waarborgen en AI-geletterdheid."

De CTIVD wil voorkomen dat de achterstand binnen de diensten verder oploopt. Daarom gaat de toezichthouder in gesprek over onder meer de voortgang van het implementeren van centrale regie over AI-gebruik.

Intussen wil het kabinet de inlichtingendiensten meer bevoegdheden geven. Volgens het kabinet is dat nodig vanwege dreiging uit Rusland, China en Iran. Daarbij worden ook de bevoegdheden voor gebruik van AI verruimd.

De CTIVD uitte eerder stevige kritiek op de nieuwe wet. De toezichthouder vindt de voorgestelde wet niet in balans. De zogenoemde Toetsingscommissie Inzet Bevoegdheden, die inzet van bepaalde bevoegdheden van de dienst vooraf moet goed- of afkeuren, deelt die kritiek.