Toezicht op kunstmatige intelligentie

In onze samenleving is bereikbaarheid, beschikbaarheid en betrouwbaarheid van de digitale infrastructuur enorm belangrijk. Steeds vaker gebruiken serviceproviders en elektronische dienstverleners slimme software en algoritmen: kunstmatige intelligentie, ofwel artificial intelligence (AI). Agentschap Telecom voert de wet- en regelgeving uit in het digitale domein en houdt hier toezicht op. Denk daarbij aan de Wet beveiliging netwerk- en informatiesystemen (WBNI) en de Radio Apparatuur Richtlijn (RED). Kunstmatige intelligentie is, naast 5G en cybersecurity, een van onze strategische thema’s.

Artificiële intelligentie verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en - met een zekere mate van zelfstandigheid - actie ondernemen om specifieke doelen te bereiken. Eigenlijk automatiseert AI menselijke denkkracht.

Door snelle internetverbindingen en processoren zal artificiële intelligentie steeds meer worden toegepast en ook impact hebben op IT- en communicatienetwerken. En dat zal, mede door 5G, snel toenemen. Digitalisering en nieuwe toepassingen als Internet of Things (IoT), Machine-to-Machine communicatie (M2M), radionetwerk optimalisatie en intelligente transportsystemen gaan (in de toekomst) gebruikmaken van AI.

Artificial intelligence in telecominfrastructuren

Kunstmatige intelligentie biedt kansen: het kan sneller (en soms betere) beslissingen maken dan mensen, met AI kan (schaarse) expertkennis efficiënter worden ingezet en AI is goed in repetitieve taken. Op dit moment zien we dat de meeste toepassingen van AI in telecominfrastructuren betrekking hebben op optimalisatie van specifieke parameters. Het betreffen sterk afgebakende toepassingen, zoals het optimaliseren van parameters van een radiosignaal, power management of het routeren van verkeer door een netwerk. Daarnaast wordt artificiële intelligentie ook ingezet voor onderhoud van het netwerk. AI kan bijvoorbeeld voorspellen wanneer uitval van een onderdeel in het telecomnetwerk waarschijnlijk is. Vervolgens kan er preventief onderhoud worden uitgevoerd.

Kijken we naar de komende vijf tot tien jaar, dan zien we AI-toepassingen steeds geavanceerder worden. Veel leveranciers van telecomapparatuur denken dat een groot deel van de netwerkfuncties in telecomnetwerken in de toekomst wordt bestuurd door artificiële intelligentie. Behalve in de telecomsector, wordt artificiële intelligentie ook in andere digitaliserende sectoren steeds meer toegepast, bijvoorbeeld in de transportsector (de zelfrijdende auto), de energiesector (het slim balanceren van fossiele- en duurzame energiebronnen) en de medische sector (het nauwkeurig analyseren van röntgenfoto’s). De specifieke risico’s zijn voor elke sector anders. Lees meer over de toepassingen van AI.

Computerchip van heel dichtbij met daarin de letters AI

Onderzoek naar de risico’s van AI

Naast voordelen voor efficiëntie en innovatie, brengt AI ook nieuwe risico’s met zich mee. Zo kunnen AI-systemen gevoelig zijn voor datamanipulatie en bias. Ook is er bij gebruik van meerdere AI-componenten in grote systemen, zoals een telecomnetwerk, kans op keteneffecten. Een fout in een AI-systeem kan daardoor doorwerken naar een ander AI-systeem. Dit kan onbedoeld en onbewust de kwetsbaarheid in het digitale stelsel verhogen. Daarom heeft Agentschap Telecom een analyse laten uitvoeren door onderzoeks- en adviesbureau Dialogic naar het (toekomstige) gebruik van AI in de telecomsector en de kansen en risico’s die daaraan verbonden zijn.

Dialogic heeft in haar rapport ‘Gebruik van en toezicht op AI-toepassingen in telecominfrastructuren’ een risicomodel uitgewerkt voor het toezicht op artificiële intelligentie. Dit model kan Agentschap Telecom helpen om risico’s voortijdig in beeld te brengen en in te dammen. Want wanneer AI op een veilige manier wordt toegepast, kan de maatschappij enorm profiteren van de kansen en voordelen. Het rapport laat zien dat Agentschap Telecom verschillende instrumenten ter beschikking heeft om risico’s van AI in telecominfrastructuren te beperken. Denk hierbij aan voorlichting en bewustwording, het vereisen van transparantie, het faciliteren van risicoanalyse en -mitigatie, het stellen van standaarden en het stellen van procesvereisten. Met de ontwikkeling van internationale standaarden is Agentschap Telecom al begonnen met haar actieve deelname in de ETSI werkgroep Securing Artificial Intelligence.

Het voorgestelde risicomodel kan ook als basis dienen voor andere sectoren. Het gebruik van artificiële intelligentie kent immers generieke aspecten die voor meerdere sectoren gelden. Denk daarbij aan zaken als beschikbaarheid, betrouwbaarheid en integriteit van data en infrastructuur: deze punten zijn voor AI-toepassingen in alle sectoren van belang.

Samenwerking tussen toezichthouders

Concrete invulling van het toezicht op artificiële intelligentie staat wereldwijd nog in de kinderschoenen. Ook in ons land. Samenwerking tussen toezichthouders is essentieel om Nederland het vertrouwen te blijven geven in het veilig gebruik van AI. Agentschap Telecom neemt als autoriteit en toezichthouder in het digitale domein graag het voortouw in deze samenwerking. Zo werd samen met de Inspectieraad het initiatief genomen tot het oprichten van een brede werkgroep van toezichthouders op kunstmatige intelligentie, met als doel door onderlinge samenwerking en kennisuitwisseling de kwaliteit van het gezamenlijke toezicht door de toezichthouders op het terrein van AI in Nederland te vergroten.