Vier uitdagingen omtrent data-ethiek in jouw datagedreven organisatie

De opkomst van AI heeft grote gevolgen voor data-ethiek. Bepaalde algoritmen verwerken namelijk geen persoonsgegevens, waardoor de AVG niet volledig van toepassing is. Alsnog helpt de AVG wel om ethische vragen te stellen over gegevensverwerking door AI, maar deze vragen beantwoorden is lastig. Koen Versmissen, eigenaar bij Goedzo data-ethiek, deelt vier ethische uitdagingen omtrent AI in de organisatie.

De rol van ethiek omtrent datagebruik

Ethiek gaat verder dan wet- en regelgeving. Dit is een kader, vaak zonder antwoord op genuanceerde en complexe situaties. Als de wet geen uitsluitsel geeft, helpt ethiek om een goed perspectief op de situatie te krijgen. Stel jezelf de vraag hoe je de samenleving eigenlijk wilt inrichten aan de hand van concepten als rechtvaardigheid, verantwoordelijkheid en vrijheid. Ethiek maakt het zo makkelijker om het gesprek aan te gaan over wat wenselijk is omtrent data, daarbij rekening houdend met verschillende mensen, culturen en situaties. Hierdoor ben je in staat om tot een gefundeerd oordeel te komen over morele kwesties, zo ook in de snel veranderende wereld van data en AI.

Vier data-ethische vraagstukken

Afhankelijk van de mate waarin data is geïntegreerd in de organisatie, kom je verschillende dilemma’s tegen:

• Verwerken jullie systematisch gegevens? Dan kom je wellicht in situaties terecht waarin de wet de menselijke maat in de weg staat. Hoe ga je bijvoorbeeld om met mensen die niet in het systeem passen?
• Gebruiken jullie informatiesystemen om gegevens te verwerken? Automatisering van gegevensverwerking is handig, maar beperkt de mogelijkheden voor maatwerk. Hoe ga je bijvoorbeeld om met mensen die niet in het informatiesysteem passen, zoals mensen die minder digitaal vaardig zijn?
• Hebben jullie informatiesystemen met elkaar verweven? Dit is vaak moeilijk te overzien en volgen, zeker wanneer er problemen zijn. Collega’s veranderen wellicht iets aan het systeem zonder dat jij ervan weet, probeer dan maar eens te achterhalen wat er aan de hand is en of ingrijpen nodig is.
• Laten jullie statistische algoritmen los op de gegevens? Je hebt dan te maken met AI en het feit dat hier nog weinig wet- en regelgeving voor is omtrent gegevensverwerking. Je eigen ethische inschatting is daarom van groot belang.

Voer de ethische dialoog

Data-ethiek is dus anders dan omgaan met wet- en regelgeving omtrent datagebruik. Je krijgt met hele andere vraagstukken te maken. Het is dan ook belangrijk om de ethische dialoog aan te gaan, maar hoe doe je dat? Diverse hulpmiddelen helpen daarbij, zoals de Aanpak Begeleidingsethiek, de Ethische Data Assistent en het Moreel Beraad.

Meer weten over deze hulpmiddelen?

Ga jij aan de slag met data en wil je hierbij een ethische dialoog kunnen voeren? Meld je dan aan voor de opleiding Chief Data Officer van SBO. Koen Versmissen vertelt je tijdens een van de interactieve lesdagen meer over het belang van ethiek wanneer je werkt met data. Deze opleiding is ook Incompany te volgen, als jij en jouw collega’s in een keer op hetzelfde kennisniveau willen komen.