8 november 2019

Geautomatiseerde besluitvorming: algoritmen als aanklager, rechter en executeur?

De mensheid zal worden geregeerd door geautomatiseerde besluitvorming. Voor het eerst in het bestaan van de menselijke maatschappij zal het menselijk leven deels worden beheerst en bestuurd door niet-mensen. Wat is hier de realiteit en de toekomst? En op welke wijze reageren toezichthouders en wetgevers op deze ontwikkeling? Is dit management by incident?

Vrijdag 8 november
13.30 – 18:00 uur
Hoge Raad der Nederlanden | Den Haag

 

Automatic decision making might subvert the rule of law – we become judge, jury, and executioner – at the push of a button.

Verandah Elan Rhy

 

Big Data processes codify the past. They do not invent the future. Doing that requires moral imagination, and that’s something only humans can provide. We have to explicitly embed better values into our algorithms, creating Big Data models that follow our ethical lead. Sometimes that will mean putting fairness ahead of profit

Cathy O’Neill

Thema

Sommige onderzoekers voorspellen dat door technologie gebaseerd op algoritmen zoals AI, Deep Learning in combinatie met het gebruik van data-lakes en de enorme hoeveelheid vrije data die te vinden is op het (dark)web, anonimiteit en privacy verdwijnt. De mensheid zal worden geregeerd door geautomatiseerde besluitvorming. Voor het eerst in het bestaan van de menselijke maatschappij zal het menselijk leven deels worden beheerst en bestuurd door niet-mensen. Wat is hier de realiteit en de toekomst? En op welke wijze reageren toezichthouders en wetgevers op deze ontwikkeling? Is dit management by incident?

Dilemma’s

Beleids- en wetgevingsinitiatieven proberen achteraf deze technologische ontwikkelingen te harnassen en sturen. De fundamentele vraag op welke wijze deze vorm van besluitvorming echter in onze maatschappij dient te worden ingebed is overgeslagen. Zo verbiedt de AVG geautomatiseerde besluitvorming in de meeste gevallen en acht het uitsluitend toelaatbaar als deze besluitvorming transparant is en kan worden uitgelegd. Op welke wijze kan hier zowel juridisch als ethisch vorm aan worden gegeven zonder dat we als maatschappij achter de technische feiten blijven aanlopen? Hoe strikt moet en kan regelgeving überhaupt zijn, willen we bedrijven en instellingen niet onnodig beperken?

Keynote sprekers

Jan Middendorp
VVD Tweede Kamer en opsteller van de initiatiefnota ‘Menselijke Grip op Algoritmen’

Jan Middendorp (1975) is sinds 23 maart 2017 Lid van de Tweede Kamer der Staten Generaal voor de VVD-fractie en is o.a. woordvoerder overheid en digitalisering. Jan startte zijn loopbaan bij BKB en werkte daarna 15 jaar als bankier bij ABN AMRO en Rothschild in Engeland, India en Nederland. Jan studeerde Geologie en Economie (cum laude) aan de Vrije Universiteit en de Universiteit van Amsterdam.  Jan was in juli 2018 eerste indiener van de initiatiefnota ‘’Online Identiteit en Regie op Persoonsgegevens’’ en lanceerde in oktober 2018 het VVD 5 puntenplan “Voor een Digitale Overheid die Werkt” . In 2019 lanceerde hij een parlementair initiatief op het gebied van algoritmen: ‘’Menselijke grip op Algoritme’’. Jan is lid van de speciale parlementaire commissie ‘’Digitale Toekomst’’.

Gerrit Timmer
Chief Science Officer van ORTEC en emeritus hoogleraar Business Econometrics

Gerrit Timmer (1957) is mede-oprichter en Chief Science Officer van ORTEC, een multinational op het gebied van Operations Research. Daarnaast was hij tot 2019 hoogleraar Business Econometrics aan de VU. Als CSO van ORTEC heeft Timmer veel ervaring met het ontwikkelen en implementeren van complexe algoritmiek in een veelvoud van toepassingen. Timmer was lid van de Commissie Deltaplan Wiskunde, voormalig voorzitter van de Vereniging voor Statistiek en Operations Research en is lid van de Big Data Alliance.

Joost van den Burgt
Senior Policy Advisor Fintech and Artificial Intelligence bij DNB en opsteller van het DNB-discussie document ‘General Principles for the use of Artificial Intelligence in the financial sector’.

Joost van der Burgt is senior beleidsadviseur FinTech bij de Nederlandse Nationale Bank (DNB). Hij vertegenwoordigt ook DNB in de Taskforce voor financiële technologie van het Bazels Comité voor Bankentoezicht. In de eerste helft van 2018 werd Joost zes maanden bij de Federal Reserve Bank van San Francisco gedetacheerd om te werken als onderdeel van het fintech-team van de Fed. Voordat hij in augustus 2015 bij DNB begon te werken, werkte Joost vier jaar op de afdeling Strategie en Risicoanalyse bij de Autoriteit Financiele Markten (AFM), waar hij zich richtte op fintech en de implicaties van technologische innovatie voor de financiële sector. Joost heeft een BSc Technische Bedrijfskunde, een MA Wijsbegeerte, een MSc Risicomanagement, en volgt momenteel een BSc Artificial Intelligence.

Programma

  •       13.30 uur Welkom
  •       14.00 uur Jan Middendorp en Joost van der Burgt, paneldiscussie
  •       15.30 uur Pauze
  •       16.00 uur Gerrit Timmer, paneldiscussie
  •        17.00 – 18:00 uur Borrel

Let op: neemt u een geldig identiteitsbewijs mee in verband met de beveiliging

Website by Webroots