糖心直播

Maken AI en algoritmes onze maatschappij echt veiliger?

Wat hebben de Amazon videodeurbel Ring en de elektrische auto鈥檚 van Tesla eigenlijk met elkaar gemeen? Deze twee producten lijken heel verschillend, maar het zijn beide manieren van digitale surveillance, waarbij grote hoeveelheden data met algoritmes worden ontsloten met als doel de samenleving veiliger te maken. Op 23 juni sprak Marc Schuilenburg, hoogleraar Digital Surveillance aan Erasmus School of Law, zijn oratie uit. In zijn rede getiteld Making Surveillance Public, bespreekt Schuilenburg de effecten van digitalisering en algoritmisering op het veiligheidsvraagstuk.

Waar surveillance aanvankelijk met het blote oog gebeurde, werd deze vorm van surveillance in 1990 aangevuld met een groeiend aantal surveillance camera鈥檚. Dit is sindsdien uitgegroeid tot een groot netwerk van camera鈥檚 die met elkaar verbonden zijn. Dit systeem is door digitalisering en algoritmisering tegenwoordig ook uitgerust met automatische gezichtsherkenningstechnologie. 鈥淒e opkomst van deze nieuwe vormen van digital surveillance leidt tot vraagstukken omtrent verandering van de veiligheidspraktijk鈥, aldus Schuilenburg.

Afweging van belangen

Binnen deze ontwikkeling benadrukt Schuilenburg de volgende vraagstukken: hoe kan de opsporing en handhaving van criminaliteit zoveel mogelijk profiteren van deze nieuwe vormen van digitale surveillance? En hoe kunnen ethiek en de rechtsstaat deze nieuwe technieken beheersbaar en controleerbaar houden?

鈥淢aking Surveillance Public, de titel van mijn oratie, is voor mij het kernbegrip om op deze vragen een antwoord te geven. Het 鈥榩ubliek maken鈥 van surveillance is allereerst gebaseerd op het idee dat met digitale surveillance de activiteiten van personen zichtbaar worden gemaakt, maar dat de toepassingen die hiervoor worden gebruikt vaak onzichtbaar blijven voor het grote publiek. Dit heeft echter ook betrekking op de maatschappelijke rol van surveillance, ze draagt bij aan de veiligheid, waarbij veiligheid kan worden beschouwd als het publieke goed鈥, aldus Schuilenburg.

Om zijn onderzoeksvragen te kunnen beantwoorden, benadert Schuilenburg het publiek maken van surveillance vanuit vier perspectieven.

Centrale plaats in de samenleving

鈥淎llereerst hebben ontwikkelingen zoals digitalisering, softening en normalisering ervoor gezorgd dat surveillance is uitgegroeid tot ongekende proporties. Zowel de omvang als de diepgang van surveillance is hierdoor substantieel uitgebreid. Van het massaal verzamelen van data in de gezondheidszorg tot het diep doordringen in het priv茅leven van burgers met surveillanceproducten, die niet als zodanig meer worden herkend omdat zij een onderdeel zijn geworden van het dagelijkse leven 鈥 van slimme deurbellen tot thermostaten die zelf beslissingen nemen鈥, legt Schuilenburg uit. 

De digitalisering en algoritmisering van de veiligheidspraktijk 

鈥淲ie daarnaast bij big data policing all茅茅n denkt aan een wereld van spionnen, politie en de staat, komt bedrogen uit. Veel verschillende partijen maken gebruik van surveillance en werken daarbij met grote datasets en algoritmes, waarbij ze aan veel minder regels zijn gebonden dan de nationale staat鈥, aldus Schuilenburg. 鈥淣aast reguleringsvragen voor de overheid van dit nieuwe digitale veiligheidsveld, leidt big data policing ook tot ethische en juridische zorgen, van discriminatie van minderheden tot een gebrek aan transparantie en publieke verantwoording over de gebruikte data en algoritmes鈥, benadrukt Schuilenburg.

Hoe kan digitale technologie met zorg worden ingezet?

Ook vanuit een publiek perspectief is het van belang dat de opsporing van criminaliteit zoveel mogelijk kan profiteren van deze nieuwe digitale tools. Maar dit betekent ook dat deze technieken beheersbaar en controleerbaar moeten worden gehouden binnen een kader van waarden waar onze democratische samenleving belang aan hecht. 鈥淚k pleit er daarom voor om nieuwe technologie zo te ontwikkelen dat in de ontwerp- en ontwikkelfase al rekening wordt gehouden met datgene dat we als samenleving belangrijk vinden 鈥 denk aan zowel verankerende publieke waarden 鈥 privacy en non-discriminatie 鈥 als aan procesmatige waarden, transparantie en accountability鈥, stelt Schuilenburg.

Wat betekent dit voor de criminologie?

鈥淓r is noodzaak voor een benadering van digitale technologie die meer recht doet aan zowel de menselijke factor als aan de integratie van publieke waarden in het ontwerp- en ontwikkelproces. Hiervoor is het essentieel om het perspectief van surveillance-ervaring onderdeel te laten zijn van een goede zorg voor techniek.鈥

Making Surveillance Public is een pleidooi voor de start van een digitale criminologie, waarin het gaat om hoe de digital turn 鈥 het geheel aan digitale ontwikkelingen 鈥 het speelveld van de criminologie verandert, in termen van de aard en omvang van cybercriminaliteit. Maar digitale criminologie richt zich ook op wat digitalisering en algoritmisering teweegbrengen op gebieden van forensische zorg, strafrechtspleging en veiligheidspraktijk: welke digitale tools zijn er, door wie ze worden gebruikt, tot welke resultaten ze leiden en tegen wie ze worden gebruikt. 鈥淰oor dit alles is, wat ik zou willen noemen, digitale wijsheid noodzakelijk 鈥 en die begint al in het onderwijs, en de manier waarop we deze kennis meegeven aan onze studenten鈥, benadrukt Schuilenburg.

Hierbij wil Schuilenburg afstand nemen van een denken over digitale surveillance waarbij de veronderstelde technische en economische voordelen ervan prevaleren en sociologische aspecten als macht en kennis onderbelicht blijven. 鈥淪oms lijkt het debat over data en algoritmes alleen te gaan om effici毛ntie en effectiviteit. Dit zijn publieke waarden en het is begrijpelijk dat dit beoordelingsmaatstaven zijn, maar de praktijk van surveillance, zo wil ik betogen, contrasteert dikwijls met onze verwachtingen erover. Niet door de enorme technische mogelijkheden ervan, maar juist omdat die technieken altijd in relatie zullen moeten worden bekeken met de sociale omgevingen waarvan ze deel uitmaken.鈥

鈥淎lleen door het meenemen van digitale wijsheid en alle perspectieven begrijpen we beter wat big data en algoritmes allemaal kunnen doen, maar ook wat big data en algoritmes allemaal met ons doen鈥, zo stelt Schuilenburg.
 

Professor
Meer informatie

Lees verder over de oratie van Marc Schuilenburg in het , en

Vergelijk @count opleiding

  • @title

    • Tijdsduur: @duration
Vergelijk opleidingen