AI in de praktijk: compliance & governance

Zoekt u naar handvatten om de inzet van AI te screenen zodat uw bedrijf of cliënten veilig en legaal kunnen opereren? Leren hoe AI nuttig ingezet kan worden? En wilt u meedoen aan een unieke serious game die u AI compliance en governance in de praktijk laat zien? Volg dan deze e-learning!

E-learning in het kort

  • Tien weken online leren, in eigen tempo
  • Praktijkgerichte modules
  • Unieke case studies met echte AI
  • Geen technische of juridische voorkennis vereist
  • Start 1 februari 2021

En dat alles voor de introductieprijs van €599 ex btw.

Al het cursusmateriaal is speciaal ontwikkeld door ICT-jurist Arnoud Engelfriet. Arnoud is partner van ICTRecht bv, mede-oprichter van Legal Tech bedrijf Juriblox en maker van de robot lawyer NDA Lynn.

Leren adviseren over AI

Steeds meer organisaties zetten Artificial Intelligence (AI) in. Dit roept vele vragen op over de juridische en ethische randvoorwaarden. Maar de regels moeten geen blokkade zijn. De behoefte aan een duidelijk kader is dan ook groot. Deze leergang helpt u op een positieve en oplossingsgerichte manier de inzet van AI te beoordelen en te adviseren hoe het wél kan.

Na deze leergang bent u in staat een gedegen beoordeling over de juridische en ethische haalbaarheid van een AI systeem te geven. In tien hoofdstukken nemen wij u via e-learning op unieke wijze mee in de materie, toetst u interactief uw niveau en werkt u met échte casussen (en dus ook échte AI) om uw begrip en beoordelingsvermogen te vergroten.

Studeren in eigen tijd

U werkt in eigen tijd. Het advies is elke week één van de tien modules af te ronden. Echter, u kunt niet deelnemen aan de finale van het bijbehorende spel (en dupeert daarmee uw medestudenten) als u na week 10 niet alle hoofdstukken hebt afgerond.

Al het lesmateriaal wordt aangeboden in de Procademy online lesomgeving. U krijgt webinars, online leesopdrachten, puzzels, uitzoekopdrachten en interactieve casusopdrachten. Hierbij leert u onder meer data te analyseren, AI-ontwerp te toetsen en compliance-eisen te formuleren. U werkt daarbij met echte data, echte AI’s en echte casussen.

Serious gaming houdt u bij de les

U doet tijdens de leergang mee aan de wereldwijde competitie van de Most AI-focused city in the world, bijgehouden door het fictieve United Nations Office for Global AI (UNOGAI). Wanneer u een casus oplost of een toets afrondt, stijgt uw cliënt – een kleine Nederlandse gemeente – op deze ranglijst van wereldsteden. Tilt u haar naar de wereldwijde ereplaats?

Dit spelelement houdt u bij de les en geeft u op verrassende manier extra inzichten en kennis over AI. U krijgt toegang tot de gemeentewebsite met achtergrondinformatie over de casussen en de praktijk, en tot de UNOGAI website met verdiepend leesmaterial over AI, ethiek, compliance en technologie.

U ontvangt een certificaat van deelname wanneer u de e-learning-opdrachten met voldoende resultaat afsluit.

Op https://www.ictrecht.nl/academy/opleidingen/ai-in-de-praktijk-compliance-governance leest u de basis, het programma in detail staat op https://www.ictrecht.nl/academy/programma/ai-in-de-praktijk-compliance-governance

Datum:01-02-2021
Tijd:9:00
Dagen:70 days
Locatie:e-learning omgeving Procademy
Price€ 599 ex BTW


Program


Wat is AI en waarvoor wordt het gebruikt

Het introducerend hoofdstuk behandelt kernbegrippen rondom AI en zet de rodedraadcasus neer. U maakt kennis met de technologie van AI en Machine Learning en de belangrijkste toepassingen, zodat u kernbegrippen als zelflerend karakter, accuratesse, bias en uitlegbaarheid kunt duiden. De rode draad is de fictieve gemeente Juinen, die zichzelf ten doel gesteld heeft binnen het jaar de wereldwijde nummer 1 stad op het gebied van AI te worden. Alle burgers, bedrijven en instellingen worden middels grootse subsidies en gemeentelijke ondersteuning geactiveerd om AI toe te passen. Uw uitdaging is te zorgen dat dit in goede banen gebeurt.

Werkvormen:

  • Bekijk een videocollege van Arnoud over AI en de mogelijkheden
  • Toets uw kennis van de stof middels een drag-and-drop opdracht om de verschillende soorten AI te categoriseren en een serie stellingen om de kernbegrippen te duiden
  • Als eindopdracht beoordeelt u in een mini-essay de AI-visie van de gemeente Juinen om zo hype en mogelijkheden te scheiden

Na dit hoofdstuk kunt u uitleggen wat AI inhoudt en de kernbegrippen toepassen op een casus.

Juridische en ethische kaders voor AI

In 2019 publiceerde de High-Level Expert Group van de Europese Commissie de Ethics Guidelines for trustworthy AI. Deze leggen een raamwerk ter bevordering van betrouwbare AI, dat in deze leergang centraal staat. Dit raamwerk kent drie componten (wettig, ethisch en robuust), waaruit zeven vereisten voor AI-systemen volgen. In dit hoofdstuk leert u opzet en belang van de Guidelines en de strekking van de zeven vereisten. Elk vereiste wordt in een vervolghoofdstuk nader behandeld.

Werkvormen:

  • Lees de interactive book-versie van de Guidelines, verzorgd door Arnoud inclusief wettig kader (de Guidelines zelf kennen dit niet)
  • Toets uw kennis uit het boek met diverse opdrachten tijdens en na het doorwerken van het boek
  • Als eindopdracht krijgt u een aantal voorstellen van burgers en bedrijven uit Juinen voor de inzet van AI. U beoordeelt middels stellingen deze toepassingen op de zeven vereisten

Na dit hoofdstuk kunt u:

  1. Aangeven wat het belang is van de Ethics Guidelines for Trustworthy AI (“de Guidelines”)
  2. Uitleggen wat de drie componenten en zeven vereisten uit de Ethics Guidelines zijn, inclusief hun onderlinge relatie
  3. Het kader gevormd door de zeven vereisten uit de Guidelines neerzetten voor een beoordeling van inzet van AI in een juridisch of bestuurlijk bedrijfsproces

Menselijke controle en toezicht

In dit hoofdstuk staat het vereiste van menselijke controle en toezicht centraal. Dit houdt in dat AI-systemen menselijke autonomie en beslissingen moeten ondersteunen, en niet zonder toezicht mogen opereren of grondrechten negeren. U leert waar en waarom in een AI-gedreven systeem menselijke controle en toezicht ingezet kunnen worden en de voor- en nadelen tegen elkaar af te zetten in een casus. Dit vereist een goed begrip van de technologie achter AI, die u in dit hoofdstuk ook opdoet.

Werkvormen:

  • Video-explainer bekijken over de algemene technische opzet van AI-systemen
  • Als oefencasus het AI-systeem van de kwekersvereniging “De Iris” (sinds 1935 een begrip in Juinen) voor classificatie van irissen helpen opbouwen
  • Middels een puzzel mogelijkheden van inzet van menselijke controle uitproberen en de impact daarvan op bedrijfsprocessen (zoals kosten of doorlooptijd) leren te begrijpen
  • Als eindcasus gaat u via een branching game in discussie met de afdeling Communicatie over de wijze waarop de gemeente Juinen haar discussieforum met AI-beheerbots laat controleren op spam en ongewenste reacties

Na dit hoofdstuk kunt u:

  1. De criteria voor menselijke controle en toezicht formuleren
  2. De technische werking van AI op hoofdlijnen schetsen en relevante vaktermen plaatsen
  3. In een concrete casus gemotiveerd opties voor menselijke controle en toezicht in een AI-systeem voorstellen

Diversiteit, non-discriminatie en rechtvaardigheid

Bij ontwerp en inzet van AI-systemen moet rekening worden gehouden met inclusie en diversiteit, inclusief gelijke toegang via inclusieve ontwerpprocessen, alsook voor gelijke behandeling. Dit betekent in de praktijk met name maatregelen nemen tegen bias (vooringenomenheid) die kan leiden tot directe of indirecte discriminatie en uitsluiting. Dit hoofdstuk leert u wat de diverse vormen van bias zijn, waardoor zij worden veroorzaakt en welke stappen daartegen mogelijk zijn.

Werkvormen:

Casusgestuurde tekst en grafische explainer over de diverse soorten van bias
Onderzoek in de vorm van online puzzel naar bias in het AI-systeem
Video-explainer over zoek naar bias met statistische tools
Als eindopdracht adviseert u in een branching game de wethouder hoe om te gaan met klachten van bezoekers van een coffeeshop over discriminatie door de ingezette AI-technologie voor gezichtsherkenning

Na dit hoofdstuk kunt u:

De criteria voor diversiteit, non-discriminatie en rechtvaardigheid formuleren
Uitleggen welke vormen van bias er zijn en hoe deze zich voor kunnen doen
In een concrete casus adviseren over hoe zich hier tegen te wapenen

Technische robuustheid en veiligheid

Dit hoofdstuk gaat dieper in op de technische werking van AI in het licht van het vereiste van technische robuustheid. Hieronder valt het vermogen van een AI-systeem om correcte afwegingen te maken en correcte voorspellingen te doen, en daarbij reproduceerbaar opereert. Met name van belang daarbij zijn het onderscheid tussen vals positief (ten onrechte iets accepteren) en vals negatief (ten onrechte iets afwijzen) en het omgaan met de inherente onzekerheid in AI-gedreven data-analyses.

Werkvormen:

  • Interactief boek doornemen over diverse architecturen en daarbij oefeningen ter toetsing afronden
  • Video-explainer over de architectuur van een bestaand AI-systeem
  • Multiple-choice oefening over accuratesse en diverse soorten fouten die een AI-systeem kan maken
  • Als eindopdracht in een aantal casussen de gemaakte fouten herkennen met mini-essays

Na dit hoofdstuk kunt u:

  1. De criteria voor technische robuustheid en veiligheid formjuleren
  2. De werking van verschillende AI technologieën reproduceren en vergelijken
  3. Het verschil tussen AI en klassieke technologieën formuleren
  4. De verschillende soorten accuratesse en fouten onderscheiden in een concrete casus

Transparantie en verklaarbaarheid

De werking van AI-systemen wordt vaak wel een black box genoemd: hoe het systeem tot de uitkomst kwam, is vaak niet te achterhalen. Dit is problematisch, met name wanneer de uitkomsten mensen raken. Het vereiste van transparantie en verklaarbaarheid brengt dan ook met zich mee dat de gegevenssets en de processen waaruit de beslissing van het KI-systeem voortkomt, zo goed mogelijk moeten worden gedocumenteerd om ze traceerbaar te maken en de transparantie te vergroten. Ook moet het altijd mogelijk zijn om te vragen om een geschikte verklaring van het besluitvormingsproces van het AI-systeem.

Werkvormen:

  • Bekijk een kennisclip over explainable AI
  • Ontwerp een beslisboom voor leningaanvragen op basis van interviews met bankmedewerkers
  • Onderzoek interactief het opgeleverde AI-systeem voor leningaanvragen
  • Vergelijk de twee systemen en weeg de voor- en nadelen tegen elkaar af, middels een online constructie-challenge
  • Adviseer als eindopdracht in een branching scenario video de directie van de “Juinense bank van Lening” over de inzet van haar voorgenomen AI systeem dat leningaanvragen toekent of weigert.

Na dit hoofdstuk kunt u:

  1. De criteria voor transparantie en verklaarbaarheid formuleren
  2. Verschillen duiden tussen klassieke en AI-gedreven besluitvorming
  3. Over de gevolgen daarvan voor transparantie adviseren in een concrete casus.

Privacy en datagovernance

De Algemene verordening gegevensbescherming (AVG of GDPR) stelt strenge regels aan automatische besluitvorming en het soort data-analyse dat bij AI hoort. Dat levert een behoorlijk spanningsveld op: omvang en kwaliteit van de gebruikte gegevenssets is cruciaal voor de prestaties van KI-systemen. Daarom bepaalt het vereiste van privacy en datagovernance dat AI-systemen privacy en gegevensbescherming moeten garanderen gedurende de volledige levenscyclus van het systeem. Terecht: fouten en onvolkomendheden in een AI-systeem kunnen grote impact hebben op mensen. Dit hoofdstuk introduceert het wettelijk perspectief van de AVG. Na dit hoofdstuk kunt u het AVG-kader van een AI systeem schetsen bij een gegeven casus en maatregelen voorstellen om daaruit voortvloeiende risico’s te beheersen.

Werkvormen:

  • Interactief boek over de AVG-eisen aan AI systemen doornemen, inclusief diverse toetsopdrachten tijdens en na de stof
  • Kennisclip over de DPIA bekijken
  • Middels stellingen een model-DPIA doornemen
  • Adviseer als eindopdracht in een branching scenario video de FG van de Juinense Bank van Lening’ over de beheersbaarheid van de AVG-risico’s aan

Na dit hoofdstuk kunt u:

  1. De criteria voor privacy en datagovernance formuleren
  2. Het AVG-kader van een AI systeem schetsen bij een gegeven casus
  3. Maatregelen voorstellen om daaruit voortvloeiende risico’s te beheersen

Maatschappelijk en milieuwelzijn

AI-systemen hebben de potentie om een aantal van de meest urgente maatschappelijke zorgen te verhelpen, maar er moet wel worden gezorgd dat dit zo milieuvriendelijk mogelijk gebeurt. Zo verbruiken datacenters die AI-berekeningen maken, significante percentages van het totale stroomverbruik van menige provincie. Meer algemeen moeten de gevolgen van de ontwikkeling, de installatie en het gebruik van AI ook vanuit maatschappelijk oogpunt worden beoordeeld, waarbij rekening moet worden gehouden met het effect op instellingen, de democratie en de samenleving als geheel.

Werkvormen:

  • Video met MC vragen over toekomst van AI door diverse grote denkers, inclusief milieu-aspecten
  • Ontwerp een infographic over de milieu-aspecten van AI voor de inwoners van Juinen
  • Als eindcasus discussieert u in een branching scenario video met de Milieubeweging Juinen over de milieu-impact van alle AI-initiatieven tot nu toe

Na dit hoofdstuk kunt u:

  1. De criteria van maatschappelijk en milieuwelzijn formuleren
  2. Eigen inzicht en kennis over milieu-aspecten van AI presenteren
  3. De criteria en uw kennis toepassen op een concrete casus

Verantwoording en controleerbaarheid

Vanwege de invloed die AI heeft op de maatschappij moeten organisaties die dergelijke technologie inzetten, verantwoording afleggen en controleerbaar opereren. Controleerbaarheid houdt in dat het mogelijk wordt gemaakt de algoritmen, gegevens en ontwerpprocessen te controleren. Alle beslissingen en te maken afwegingen moeten worden onderbouwd en goed worden gedocumenteerd. De beslisser moet aansprakelijk zijn voor de manier waarop de passende afweging wordt gemaakt, en moet de gepastheid van de genomen beslissing voortdurend controleren.

Werkvormen:

  • Video-college over mogelijkheden voor verantwoording afleggen, met toetsvragen
  • Maak een kennisclip over een stelling gebaseerd op de stof uit het video-college
  • Als eindcasus verdedigt u in een branching scenario persconferentie de “Juinense Bank van Lening” tegen maatschappelijke ophef in de gemeente over de inzet van AI

Na dit hoofdstuk kunt u:

  1. De vereisten van verantwoording en controleerbaarheid formuleren
  2. Eigen inzicht en kennis over verantwoordelijkheid rondom AI presenteren
  3. De criteria en uw kennis toepassen op een concrete casus

Eindcasus en afronding

In dit laatste hoofdstuk worden de bevindingen van de eerdere hoofdstukken bijeengebracht en synthetiseert u de opgedane kennis en kunde in een uniek online eindspel.

In dit spel – dat de finale vormt van de wereldwijde competitie – moet u ter plekke beoordelingen uitvoeren en zo voorkomen dat Juinen naast de prijzen grijpt. Over de inhoud van het spel worden vooraf geen mededelingen gedaan, maar wel kunt u met goed speuren diverse hints ontdekken die u een voorsprong in het spel zullen geven.