Met de komst van kunstmatige intelligentie, heeft de Europese Commissie regels verbonden aan het gebruik ervan: de zogeheten AI-verordening (AI-act). De verordening stelt regels op voor 3 groepen – ontwikkelaars, dienstverleners en eindgebruikers – en categoriseert AI-systemen op basis van risiconiveaus – laag, middel en hoog – waarbij systemen met een hoog risico onderworpen zijn aan strengere eisen en verplichtingen.

De verordening heeft als doel om de veiligheid, gezondheid en fundamentele rechten van de mensen in Europa te beschermen. Op 2 augustus 2027 zal de AI-verordening volledig van kracht zijn. De verordening is vanaf 1 augustus 2024 ingegaan en beoogt regels vast te stellen voor het verantwoord gebruiken en ontwikkelen van AI-systemen door bedrijven, overheden en andere organisaties. Hieronder behandelen we twee thema’s die, in het kader van het afdekken van (juridische) risico’s, relevant kunnen zijn voor uw onderneming.

Privacy risico’s bij het invoeren van gegevens in een AI-tool

Om goed te begrijpen waar er privacyrisico’s kunnen bestaan, is het goed om de technologie kort uit te leggen: een technologie die kunstmatige intelligentie mogelijk maakt is machine-learning. Machine learning creëert algoritmen die leren van grote hoeveelheden data en binnen deze technologie bestaat er deep-learning, waarbij de werking ervan lijkt op de neuronen in het menselijk brein. Dit betekent dat kunstmatige intelligentie informatie kan verwerken, patronen kan herkennen en (op basis hiervan) beslissingen kan nemen. Volgens onderzoek van de WIPO (World Intellectual Property Organization) is machine learning de meest voorkomende AI-technologie die in patentaanvragen wordt genoemd. AI-ontwikkelaars maken dus veel gebruik van deze technologie.

Het invoeren van (gevoelige of identificeerbare) gegevens in een AI-tool kan onbedoeld leiden tot schending van de Algemene Verordening Gegevensbescherming (AVG), zeker wanneer onduidelijk is hoe de gegevens worden verwerkt, opgeslagen of hergebruikt.

Bij het uitvoeren van cognitieve functies – informatie verwerken, patronen herkennen en beslissingen nemen – maakt kunstmatige intelligentie gebruik van het internet. Precies daar zit ook het gevaar. AI-systemen worden, zonder duidelijk privacy beleid, getraind op basis van grote hoeveelheden data, waarbij geen onderscheid wordt gemaakt in wat de inhoud van de data precies is. Dit geldt ook voor persoons- en bedrijfsgegevens die worden ingevoerd in de AI-tool, waarbij deze – bij het ontbreken van beleid – op de (digitale) straat liggen.

AI-geletterdheid

Een verplichting die voortvloeit uit de AI-verordening ziet toe op het ontwikkelen en/of gebruiken van AI-systemen binnen het bedrijf. Vanaf 2 februari 2025 moeten bedrijven zorgen dat hun medewerkers ‘AI-geletterd’ zijn, op het moment dat AI-systemen in gebruik worden genomen binnen het bedrijf. Dit betekent, kortgezegd, dat een werkgever ervoor moet zorgen dat een werknemer genoeg weet om kunstmatige intelligentie op een verantwoorde manier in te zetten. Dit kan voorkomen dat een medewerker abusievelijk een fout begaat, met bijvoorbeeld het invoeren van gevoelige (bedrijf)informatie.

Het opbouwen van AI-geletterdheid binnen uw organisatie is een iteratief proces; herhaling is cruciaal. Het proces begint bij (1) het identificeren van de behoeften en de uitdagingen van medewerkers, vervolgens (2) bepaal je het doel en stel je meetbare doelen vast, daarna volgt (3) de uitvoerfase, waarbij je strategieën en acties gaat implementeren binnen een je organisatie. Het proces sluit af met (4) evalueren en het beoordelen van resultaten en verbeterpunten

Conclusie

Het implementeren van kunstmatige intelligentie binnen uw organisatie is een omvangrijk proces, waar veel (mogelijke) risico’s aan verbonden zijn. Het alternatief is dat er geen duidelijk beleid is en medewerkers zelf uit gaan zoeken hoe zij een dergelijke AI-tool kunnen gaan gebruiken. Mocht u benieuwd zijn naar hoe uw organisatie AI-geletterd kan worden, neem dan contact op met onze experts via ict@jurato.nl of bel naar 085 – 160 29 00. We denken graag met u mee!