Op donderdag 25 januari debatteert uw Kamer over het onderwerp Kunstmatige Intelligentie. Op 18 januari vindt het Rondetafelgesprek Artificiële Intelligentie plaats. Namens provincies, gemeenten en waterschappen brengen wij graag de volgende punten onder uw aandacht.
Provincies, gemeenten en waterschappen onderschrijven de hoofdconclusie van het WRR-rapport ‘Opgave AI. De nieuwe systeemtechnologie’ dat AI geen ‘gewone’ technologie is, maar een systeemtechnologie met een grote impact op de economie en de maatschappij. Medeoverheden omarmen de kansen van het gebruik van data en technologie maar zien ook de opgaven om AI op een goede manier te gebruiken. In dit paper vertellen wij op welke wijze medeoverheden AI toepassen in het oplossen van maatschappelijke opgaven, leggen wij uit hoe medeoverheden handelen naar de risico’s van AI waar het gaat om het borgen van publieke waarden en wijzen wij op het belang van goede kaderstellende regulering (AI Act). Tot slot vragen wij aandacht voor het verder benutten van de kansen van AI door het MKB goed te positioneren en ondersteunen in de ontwikkeling en toepassing van AI- en digitaliseringsvraagstukken.
Inzet AI medeoverheden bij het oplossen van maatschappelijke opgaven
Voor het oplossen van maatschappelijke vraagstukken zetten medeoverheden op geavanceerde manieren data en digitale technologieën in bij beleid- en besluitvorming. Wij doen dit onder andere bij de stikstof- en droogteproblematiek, energietransitie, woningbouwopgave, smart mobility en smart cities. Een voorbeeld van de provincie Zuid-Holland is ‘smart shipping – de slimme brug’. Door big data, deep-learning en algoritmes te combineren, heeft de provincie Zuid-Holland een beslissingsondersteuning voor het slimmer openen van bruggen op de provinciale wegen en vaarwegen gerealiseerd, voor een veiliger en efficiëntere doorvaart. De regio Brabant wordt ook wel gezien als de brainhub van Nederland waar er ruimte is om te experimenteren met AI initiatieven. Een voorbeeld van zo’n initiatief is Kinetic Analysis waar een AI systeem ontwikkeld wordt waarmee er voor medische specialisten in korte tijd inzichtelijk gemaakt wordt wie en hoe er behandeld moet worden. Een voorbeeld van de gemeente Amsterdam is het ‘public eye’ project. Dit is een crowdmonitoring systeem, dat op een paar plekken in Amsterdam de drukte in kaart brengt. Een algoritme analyseert hoeveel mensen er op de camerabeelden staan en geeft de cijfers door aan de gemeente.
In het position paper dat wij naar de Kamer stuurden voor het Wetgevingsoverleg Digitalisering benadrukten wij al het belang van een goede invulling van het thema ‘Digitale Samenleving’ in de Werkagenda, waarin bovenstaande vraagstukken wat ons betreft een belangrijke plek verdienen. Het gebruik van dit soort toepassingen brengt ook maatschappelijke risico’s en onvoorziene gevolgen met zich mee. Digitalisering is nauw verbonden met onze publieke waarden – veiligheid, gelijkheid, democratie – en is wat ons betreft dus nooit waardenvrij. Wij zijn ons bewust van die verantwoordelijkheid en gaan hier zorgvuldig mee om.
Borgen van publieke waarden uitgangspunt voor medeoverheden
Het borgen en versterken van publieke waarden is van groot belang wanneer de overheid gebruik maakt van digitale technologieën en data in de uitvoering van haar publieke taken. Dit geldt ook voor de diensten van de overheid die worden aangeboden in digitale vorm. Dit moet op een verantwoorde manier gebeuren, met respect voor publieke waarden en met aandacht voor de ethische implicaties. Eén van de impliciete risico’s van AI-toepassingen in overheidsdienstverlening is dat we steeds meer expertise nodig hebben om te begrijpen hoe technologie werkt. Bij de verwerking van persoonsgegevens door AI kunnen inwoners niet achterhalen hoe de resultaten tot stand zijn gekomen. Hierdoor wordt het moeilijk om bezwaar te maken tegen resultaten of een beroep te doen op een recht op correctie. De inzet van AI maakt het moeilijker om te werken vanuit een menselijkheidsbeginsel – het recht op toegang tot, en zinvol menselijk contact met, de overheid. Dit beginsel is een speerpunt uit de Agenda Digitale Grondrechten en Ethiek van de VNG.
Het is belangrijk dat bij het gebruik van technologie en data vroegtijdig integrale afwegingen gemaakt worden tussen wat ethisch wenselijk is, juridisch is toegestaan en technisch kan. Provincies ontwikkelden hiervoor de praktische Gids Ethiek en Digitale Transformatie. 16 januari is de Interprovinciale Ethische Commissie opgericht, waarin experts en wetenschappers zich zullen buigen over vraagstukken ten aanzien van de inzet van digitale technologie, algoritmen of het gebruik van data bij provinciale opgaven. Ook binnen de waterschappen ontstaan commissies en worden verschillende ‘leerlijnen’ uitgerold om het ethisch bewustzijn binnen de organisatie en het bestuur te vergroten.
➢ Blijf als overheid voorop lopen in het bewaken van publieke waarden in de digitale wereld.
Maak daarbij gebruik van ervaringen op decentraal niveau.
AI Act essentieel voor kaderstellende regelgeving maar uitvoerbaarheid moet beter Provincies, gemeenten en waterschappen maken zich zorgen over de uitvoerbaarheid van de AI Act. Wij vinden het goed dat de Europese Commissie met de AI Act het voortouw heeft genomen in heldere geharmoniseerde regelgeving omtrent het gebruik en de toepassing van artificiële intelligentie. Wij verwachten dat met de voorgestelde regels mogelijke grensoverschrijdende risico’s voor gezondheid, veiligheid en publieke waarden die AI-systemen met zich mee brengen beperkt worden. In het voorstel is een goed evenwicht gevonden tussen het belang van de publieke waarden als uitgangspunt en ruimte voor innovatie.
Tegelijkertijd is het voor medeoverheden belangrijk dat er duidelijk kaders komen, waardoor het duidelijk is aan welke regels zij moeten voldoen. Deze kaders moeten integraal, met de provincies, gemeenten en waterschappen worden opgesteld. Zoals ook is weergegeven in het WRR-rapport, is een integrale aanpak vereist om de inbedding van AI in goede banen te leiden.
Ten eerste maken wij ons zorgen over de administratieve lasten die de AI Act met zich meebrengt. Het Europees Comité van de Regio’s sprak zijn zorg uit over de mogelijke administratieve lasten, die het MKB, lokale en regionale overheden kunnen belemmeren in het
bevorderen van innovatie en het inzetten van AI-systemen. Ook in het BNC-fiche zagen we weinig aandacht voor de benodigde capaciteit en expertise. Dit wekt de indruk dat het rijk onderschat wat de impact van deze verordening op uitvoerende en toezichthoudende partijen zal zijn. Als de uitvoering van de AI-verordening zorgt voor een grote capaciteitslast bij de inkoop van AI, dan zullen lokale overheden en kleine ondernemingen deze innovaties sneller links laten liggen.
Ten tweede bestaat er veel onduidelijkheid over de precieze rolverdeling tussen de ‘leverancier’ en de ‘gebruiker’ in de context van de AI-verordening. Vanuit de EU komt geen verdere verduidelijking over dit onderscheid. Daardoor vrezen we dat medeoverheden onbedoeld verantwoordelijk worden gehouden voor de rol van leverancier, met alle administratieve lasten die daarbij horen. De verantwoordelijkheid voor de technische, juridische of ethische risico’s moet bij de productontwikkelaars liggen, zodat overheden met zo min mogelijk drempels technologieën kunnen inkopen en inzetten.
Tot slot lijkt in de AI Act de uitvoerbaarheid geen structureel onderdeel te zijn van het proces om tot de verordening te komen. Hiervoor zijn nader onderzoek en afspraken nodig, zoals een impactanalyse. Maar belangrijker is om dit punt vroegtijdig te signaleren en gepaste aandacht te vragen voor het vervolg. Hierbij gaat het er om dat de praktijk van provincies, gemeenten, uitvoeringsorganisaties en toezichthouders structureel op de agenda staat en als toetssteen dient voor de kwaliteit van de wet. Het kabinet kan het gat vullen dat de EU nu laat vallen wat betreft de uitvoerbaarheid van de AI Act.
➢ Houd oog voor hoge administratieve lasten bij de uitvoering van de AI Act en ondersteun medeoverheden als dat nodig blijkt.
➢ Zorg voor duidelijkheid over de rollen en verantwoordelijkheden van ‘leverancier’ en ‘gebruiker’, zodat overheden niet onbedoeld verantwoordelijk worden gehouden.
➢ Besteed meer aandacht aan de uitvoerbaarheid van de AI Act.
Benut kansen AI door het MKB gericht te ondersteunen
Provincies en gemeenten zien het belang van een sterke digitale economie waarin digitale innovaties en de digitale transformatie van het bedrijfsleven aangejaagd worden. In het stimuleren van de regionale economie heeft het MKB onze speciale aandacht. We zien dat het
MKB moeite heeft met digitalisering en AI in het bijzonder: veelal kennis, tijd en geld ontbreken om van deze kansen gebruik te maken. Het MKB moet goed worden ondersteund in het gebruik en de toepassing van AI. Door het makkelijker te maken voor ondernemers om AI in hun bedrijfsvoering te implementeren, krijgen zij ruimte om te groeien en te innoveren.
Voor het MKB zijn AI-toepassingen duur. Daarom is gerichte ondersteuning in financiering door middel van stimulerende subsidieprogramma’s wenselijk. Het gebruik van proeftuinen, zoals voorgesteld in de AI Act, kan bij uitstek voorzien in waardevolle lessen voor het MKB. Er zijn ook al verschillende initiatieven vanuit overheden om het MKB te helpen, zoals het onderzoeksprogramma RAAIT waarin Hogescholen, overheid en bedrijven samenwerken om AI op een verantwoorde manier toe te passen in een aantal sectoren. Ook zijn er in heel Nederland digitale werkplaatsen, een bestaande en voor ondernemers toegankelijke infrastructuur waar ondernemers terecht kunnen met hun digitaliseringsvragen, zo ook met hun AI-vraagstukken. Zij worden daar geholpen door studenten wat in tijden van arbeidsmarktkrapte tevens bijdraagt aan goed praktisch onderwijs. Provincies maken zich echter zorgen over de inzet van het rijk waar het gaat om het te snel afschalen van de cofinanciering van deze werkplaatsen. Dergelijke waardevolle projecten kunnen alleen bestaan met overheidssteun, en zijn daarnaast van belang om Nederland in de toekomst concurrerend te houden.
➢ Zorg ervoor dat het landsdekkend stelsel van digitale werkplaatsen blijft bestaan, zodat het MKB blijvend adequaat kan worden geholpen met AI- en digitaliseringsvraagstukken.
Voor meer informatie:
Mariet Feenstra, Strateeg Public Affairs IPO 06-11351708
Jesse de Jong-Paalvast, Adviseur Public Affairs VNG 06-39846437
Tessa Maas, Adviseur Public Affairs UvW 06-5138249