Wat wij klanten vertellen over de EU AI Act
De meeste AI-functies die bedrijven opleveren zijn niet hoog risico. De documentatieplicht blijft, en die maakt u makkelijker tijdens het bouwen dan erna.
Elk klantgesprek over de AI Act begint op een van twee plekken: totale paniek of totale afwijzing. Beide zijn onjuist, en de correctie is in beide gevallen dezelfde — zoek uit in welke risicoklasse uw functie werkelijk valt voordat u besluit hoe bezorgd u moet zijn.
Het meeste dat bedrijven opleveren is beperkt risico: een supportassistent, een samenvatfunctie, een classificatie die tickets routeert. De verplichtingen daar zijn transparantieverplichtingen. Vertel mensen dat ze met een machine praten, label synthetische inhoud, en kun uitleggen wat het systeem doet.
Hoog risico is smaller dan de koppen suggereren, maar niet exotisch. Alles wat werving, kredietwaardigheid, toegang tot essentiële diensten of personeelsbeheer raakt, valt eronder, en dat vangt heel wat gewone HR- en fintechsoftware.
Het praktische werk is hoe dan ook hetzelfde, en daarom doen wij het standaard. Een modelkaart die beschrijft waarvoor het systeem is en waarvoor niet. Een vastlegging van de data waartegen het is geëvalueerd. Menselijk toezicht gedocumenteerd als mechanisme, niet als zin. Logging waarmee u maanden later een besluit kunt reconstrueren.
Niets daarvan is exotische engineering. Het is de evaluatieomgeving en de tracelogging die we toch al bouwen, opgeschreven. Het verschil tussen een conform en een niet-conform systeem is doorgaans niet het model — het is of iemand heeft opgeschreven wat al waar was.
Ons advies is onromantisch: ga ervan uit dat u het moet aantonen, produceer het bewijs als bijproduct van het bouwen, en laat een jurist uw klasse bevestigen. Wij doen de technische helft; wij geven geen juridisch advies, en uw AI-leverancier zou dat ook niet moeten doen.