Mee met het idee. Een contact-tracing-app moet je ook sociaal programmeren

In deze maandelijkse column ‘Mee met het idee’ gaan verschillende deskundigen dieper in op een zelfgekozen onderwerp dat past binnen de thema’s van De Maakbare Mens. De auteur krijgt de ruimte om een gedachte of probleem uit te werken en daagt ook jou uit: ben jij mee met het idee?

Deze column is verschenen in de nieuwsbrief van 28 mei 2020.

Rob Heyman, Pieter Duysburgh, Cora Van Leeuwen en Willemien Laenens zijn verbonden aan het Kenniscentrum Data & Maatschappij.

Wie de afgelopen weken de discussie rond de corona-apps probeerde te volgen, had er een ware dagtaak aan. Zo wogen technici de pro’s en con’s van het al dan niet centraliseren van data tegen elkaar af. De app deed ook filosofen, sociologen en psychologen naar de pen grijpen. Experten vanuit verschillende disciplines wilden wegen op de discussie, en maar goed ook, want een dergelijke technologie heeft mogelijk gevolgen op heel wat terreinen van ons leven. Maar toch is het debat over de tracking-app niet op de juiste manier gevoerd. De discussie maakte duidelijk dat we op een andere manier moeten leren spreken over toepassingen die op een verregaande manier gebruik maken van onze persoonlijke data. 

De discussie maakt duidelijk dat we op een andere manier moeten leren spreken over toepassingen die gebruik maken van onze persoonlijke data. 

Vanuit ons werk bij imec-SMIT-VUB zitten we als gebruikersonderzoeker vaak aan gesprekstafels waar juristen, filosofen, ingenieurs en sociale wetenschappers elk vanuit hun discipline samen tot een vernieuwing kunnen komen in bijvoorbeeld een Smart City Project of een AI-onderzoekstraject. Al die knappe koppen samen kunnen evenwel niet garanderen dat het resultaat succesvol is. Wat uiteindelijk geïmplementeerd wordt, hangt af van zij die de volgende stap in innovatie doen, namelijk de projectleiders en de ontwikkelaars. Die discussies tussen verschillende disciplines zijn nodig, maar eindigen momenteel te vaak in een lappendeken van zienswijzen en opinies. We praten en luisteren wel naar elkaar, maar die dialoog leidt niet tot een gezamenlijk ontwikkeld eindresultaat. We hopen dat dit anders zal gaan als er een tracking-app komt.

Specifiek voor de contact-tracing-apps viel op dat er al heel wat regelgeving en afspraken zijn gemaakt omtrent het standaardiseren van data en de ontwikkeling van dergelijke apps. Toch bleef er terecht heel wat bezorgdheid over de mogelijk negatieve maatschappelijke gevolgen van een dergelijke oplossing. Zo merkten filosofen Massimilano Simons en Mauritz Kelchtermans in een eerdere column terecht op dat de keuze voor een contact-tracing-app ook de keuze voor een bepaald soort maatschappij behelst. Hoe neem je die overweging mee in het ontwikkelingstraject van je app?

We moeten beseffen dat een app meer is dan een technologie: het is een gebruiksvoorwerp. En net zoals met andere gebruiksvoorwerpen zijn er regels en afspraken voor een goed gebruik nodig. Een gebruiksvoorwerp moet niet alleen aan bepaalde veiligheidsvoorwaarden voldoen, je moet ook duidelijk maken hoe je het ding best bedient. De voorstellen voor een goed gebruik kunnen zich vertalen in technische, juridische of organisatorische aanbevelingen.

We moeten beseffen dat een app meer is dan een technologie: het is een gebruiksvoorwerp.

Laten we dit even verduidelijken met een voorwerp dat we allemaal kennen: de auto. Uiteraard moet een auto bij de productie aan allerlei veiligheidsvoorschriften voldoen. Maar dat volstaat niet om de auto op een veilige manier in onze samenleving te integreren. Er zijn duidelijke afspraken nodig over hoe bestuurders een auto mogen gebruiken (juridische oplossing: verkeersregels). Daarnaast zijn er ook technische oplossingen voor een veilig gebruik (een doordachte weginfrastructuur, verkeerslichten, airbags, etc.). Verder is de keuze voor een auto ook een maatschappelijke keuze (‘car culture’) met ook negatieve neveneffecten ((geluids)vervuiling, drukte, files). Beleidsvoerders kunnen stappen zetten door bijvoorbeeld verkeersarme zones in te voeren, het openbaar vervoer uit te breiden, het gebruik van de fiets aan te moedigen, etc. Er zijn dus heel wat technische, juridische en organisatorische ‘regels’ ontwikkeld rond het goede gebruik van de auto.

Hoe komt het dat toepassingen die gebruik maken van onze persoonlijke data geen gelijkaardige ‘gebruiksaanwijzingen’ mee krijgen? Momenteel proberen we de opmerkingen van experten uit verschillende disciplines hoofdzakelijk te vertalen in aanbevelingen voor projectleiders en ontwikkelaars. Met andere woorden: ze worden vertaald naar systeemvereisten of ‘requirements’. De discussie over de contact-tracing-apps maakt duidelijk dat dit niet altijd volstaat. Er moeten bij de ontwikkeling ook andere aanbevelingen komen, namelijk aanbevelingen voor beleidsmakers: zij moeten hiermee aan de slag om de nodige organisatorische en juridische maatregelen te treffen.

Bij de corona-app leefde bijvoorbeeld de bezorgdheid dat de app zou worden ingezet om een persoon de toegang te weigeren tot het openbaar vervoer of een supermarkt. Dergelijk mogelijk misbruik kan je niet oplossen door de app op zich te benaderen: hiervoor is regelgeving nodig die oplegt dat een dergelijke beperking van bewegingsvrijheid niet kan.

Op dit moment benaderen we corona-tracing- apps te sterk enkel als technische innovatie en niet als een sociale innovatie, die we ook sociaal moeten ‘programmeren’.

De corona-app is er nog niet, maar in de toekomst zal zonder twijfel over dit soort ‘gebruiksvoorwerpen’ worden nagedacht. Als we deze discussies werkelijk interdisciplinair willen maken, mogen we deze toepassingen niet alleen als technische oplossingen bekijken. De ontwikkeling van deze toepassingen moet gepaard gaan met een ‘handleiding’ voor beleidsmakers. Op dit moment benaderen we corona-tracing apps te sterk enkel als technische innovatie en niet als een sociale innovatie, die we ook sociaal moeten ‘programmeren’.