Het uitstel van verplichtingen voor hoog-risico AI-systemen onder de Europese AI Act dreigt organisaties op hoge kosten te jagen. Tegelijkertijd blijven burgers, klanten en medewerkers langer blootgesteld aan AI-systemen waarvan de risico’s nog onvoldoende zijn geborgd. Terwijl de technische invulling van regelgeving nog niet vaststaat, worden AI-systemen al diep ingebouwd in bedrijfsprocessen en publieke dienstverlening. Wie pas ingrijpt als de verplichtingen definitief zijn, moet naleving alsnog inbouwen in systemen die dan al volledig in de organisatie zijn verweven. Daarvoor waarschuwt AI-consultancybureau ADC.
“Het uitstel wordt al snel gezien als adempauze”, zegt Elianne Anemaat, senior manager Public & Society bij ADC. “Maar wie pas in actie komt wanneer alle richtlijnen definitief zijn, heeft onnodig extra werk. AI-systemen draaien nu al in processen die mensen direct raken.”
Ingebakken systemen en onduidelijke richtlijnen leiden tot hogere kosten
Technische standaarden en praktische richtlijnen voor de AI Act ontbreken nog. De Europese Commissie publiceerde recent draft-richtlijnen met voorbeelden, maar die zijn nog niet juridisch bindend. De precieze afbakening van ‘hoog‑risico’ en de bijbehorende technische normen kunnen dus nog worden aangescherpt. Dat zorgt voor onduidelijkheid bij organisaties.
Organisaties implementeren tegelijkertijd in hoog tempo AI-toepassingen: van fraudedetectie tot recruitment, biometrische identificatie en kredietbeoordeling. En nemen dus beslissingen over architectuur, leveranciers en processen, terwijl de technische standaarden en richtlijnen voor naleving nog niet vaststaan. Wanneer dit achteraf moet worden bijgesteld, kunnen de kosten flink oplopen. “Wie nu al zorgt voor transparante datastromen, goede logging, duidelijke rollen en toetsbare modellen, kan straks relatief eenvoudig aansluiten op de uiteindelijke standaarden. Zonder onnodig hoge kosten te maken.” aldus Anemaat.
Niet alleen bedrijfsrisico, maar menselijke impact
Volgens ADC is het uitstel niet alleen een organisatorisch of financieel risico. Hoog-risico-AI wordt steeds vaker ingezet op plekken waar beslissingen direct ingrijpen in het leven van mensen. Denk aan recruitment, medische triage, fraudedetectie, onderwijs en publieke dienstverlening.
“Als zulke systemen slecht zijn ontworpen of onvoldoende worden gemonitord, kan dat negatieve impact hebben op of iemand wordt uitgenodigd voor een sollicitatiegesprek, op tijd zorg krijgt of op tijd reactie krijgt van een publieke instelling,” legt Anemaat uit. “Hoe langer de AI Act op zich laat wachten, hoe groter de kans dat mensen onnodig geraakt worden door fouten of blinde vlekken in deze systemen.”
Publieke sector extra kwetsbaar
Vooral de publieke sector moet scherp zijn. Gemeenten, uitkeringsinstanties en zorgorganisaties hebben veel te winnen met AI, maar hebben direct impact op burgers. Daarbij opereren deze organisaties binnen strakke aanbestedingsregels, budgetcycli en politieke verantwoording waardoor snel bijsturen structureel moeilijker is. “Als een AI-systeem in de private sector faalt, is dat primair een bedrijfsrisico”, zegt Anemaat. “In de publieke sector kan hetzelfde probleem uitgroeien tot een bestuurlijke crisis.”
Uitstel biedt kans maar vraagt om actie
ADC adviseert organisaties om de gewonnen tijd te gebruiken om hun AI-gebruik nu al structureel in kaart te brengen. Dat betekent: alle AI-toepassingen in kaart brengen, ook functionaliteiten die verwerkt zijn in bestaande software of dashboards; bepalen welke systemen mogelijk hoog-risico zijn op basis van functie en impact; impact assessments uitvoeren ook als formele vereisten nog niet vaststaan; systemen toetsen op bias, uitlegbaarheid en controleerbaarheid; documentatie en governance vastleggen; en investeren in AI-geletterdheid zodat medewerkers risico’s herkennen.
“Verantwoord AI-gebruik is geen eenmalige exercitie, maar een vaardigheid. En zoals elke vaardigheid wordt het makkelijker naarmate je er eerder mee begint. Wie nu begint, bouwt compliance in als onderdeel van de werkwijze, in plaats van als een verplichting die er later bij komt,” aldus Anemaat.