SafeAI Pro

AI-conformiteitsbeoordeling

Door Katya Kamlovskaya
AI Conformiteitsbeoordeling Standaarden

Denk je dat AI-systemen onderworpen moeten zijn aan een strenge conformiteitsbeoordeling? De EU AI Act maakt dit tot een hoeksteen van haar regelgevingskader, vooral voor toepassingen die aanzienlijke risico’s met zich meebrengen. Dit artikel vat belangrijke inzichten samen uit het AI Standards Hub-webinar van vorige week – een must-read voor iedereen die zich begeeft in het veranderende landschap van AI-regulering en standaardisatie.

Wat is conformiteitsbeoordeling?

Conformiteitsbeoordeling gaat over het controleren (en bewijzen) dat iets voldoet aan een reeks vooraf vastgestelde normen.

Hoe wordt het meestal gedaan?

Conformiteitsbeoordeling omvat een reeks activiteiten die zijn ontworpen om te verifiëren dat een product, dienst, proces, systeem of organisatie voldoet aan gespecificeerde eisen, normen of regelgeving. Hier volgt een toelichting op enkele veelvoorkomende methoden:

  1. Testen: Testen houdt in dat een product, systeem of component wordt onderworpen aan specifieke procedures om de kenmerken of prestaties te bepalen aan de hand van vooraf vastgestelde criteria. Voor AI-systemen kan dit prestatie-, bias- en eerlijkheidstesten of beveiligings- en veiligheidstesten omvatten. Het doel is objectieve gegevens te genereren over de eigenschappen en het gedrag van het AI-systeem, waarmee wordt aangetoond dat het voldoet aan technische specificaties en functionele eisen.

  2. Inspectie: Inspectie is het onderzoeken van een product, proces, dienst of installatie om de conformiteit met specifieke eisen te bepalen. In tegenstelling tot testen, dat vaak actieve manipulatie of input vereist, betreft inspectie meestal een visuele, systematische controle van kenmerken, documentatie of procedures. Voor AI-producten en -processen kan inspectie een documentatiebeoordeling of proces-/levenscycluscontrole omvatten.

  3. Certificering: Certificering is een derde partij verklaring met betrekking tot producten, processen, systemen of personen. Een onafhankelijke certificeringsinstantie geeft na een beoordeling (die testen en inspectie kan omvatten) een certificaat af dat het object van de conformiteitsbeoordeling aan de gestelde eisen voldoet.

  4. Leveranciersverklaring van conformiteit (SDoC): Dit is een eerste partij conformiteitsbeoordeling waarbij de leverancier (fabrikant, importeur of verantwoordelijke partij) zelf verklaart dat hun product, proces of dienst voldoet aan gespecificeerde eisen.

  5. Beoordeling van managementsystemen (zoals ISO 42001 voor AI-managementsystemen): Deze beoordeling richt zich op het managementsysteem van een organisatie in plaats van op een specifiek product. Het verifieert dat een organisatie een systematische aanpak (een “managementsysteem”) heeft geïmplementeerd om bepaalde doelstellingen te bereiken, zoals kwaliteit, milieuprestaties of, in dit geval, verantwoorde AI-ontwikkeling en -implementatie. Voor AI houdt dit vooral in dat een onafhankelijke auditor de processen van de organisatie met betrekking tot de levenscyclus van AI-systemen beoordeelt, inclusief gegevensbeheer, risicomanagement, ethische overwegingen, transparantie, menselijk toezicht en verantwoordelijkheid, en controleert op mechanismen die voortdurende verbetering van het managementsysteem waarborgen.

  6. Accreditatie: Accreditatie is de formele erkenning door een onafhankelijke, gezaghebbende instantie (een “accreditatie-instantie”) dat een conformiteitsbeoordelingsinstantie (zoals een testlaboratorium, inspectie-instantie of certificeringsinstantie) bekwaam, onpartijdig en consistent opereert volgens internationale normen (bijv. ISO/IEC 17025 voor testlabs, ISO/IEC 17020 voor inspectie-instanties, ISO/IEC 17021 voor certificeringsinstanties). Een accreditatie-instantie (bijv. ENAC in Spanje, UKAS in het VK) beoordeelt grondig de technische competentie, managementsystemen, onpartijdigheid en consistente werking van een conformiteitsbeoordelingsinstantie. Accreditatie biedt een extra laag van vertrouwen en geloofwaardigheid aan het hele conformiteitsbeoordelingssysteem. Wanneer een product is gecertificeerd door een geaccrediteerde certificeringsinstantie of getest door een geaccrediteerd laboratorium, betekent dit dat de instantie die de beoordeling uitvoert zelf grondig is geëvalueerd en bekwaam is bevonden.

Waarom is AI-conformiteitsbeoordeling belangrijk?

Conformiteitsbeoordeling onder de EU AI Act:

De EU AI Act vereist conformiteitsbeoordeling voor hoog-risico AI-systemen voordat ze op de markt worden gebracht of in gebruik worden genomen. Dit proces zorgt ervoor dat deze systemen voldoen aan de strenge eisen van de wetgeving.