Techniek is niet neutraal, objectief of puur rationeel. Het kan niet vaak genoeg gezegd worden. Door de steeds toenemende automatisering, digitalisering en ook de toenemende invloed van Artificial Intelligence is het belangrijk dat we ons beseffen dat techniek niet neutraal is. In het boek 'More than a Glitch' legt Meredith Broussard uit op welke manier techniek bestaande belemmeringen, achterstanden en vooroordelen doorgeeft. En wat we daar mogelijk aan kunnen doen.
Techniek is niet neutraal
Broussard begint haar boek met een enorm sprekend voorbeeld, waarbij ik meteen met mijn neus op de feiten werd gedrukt over mijn eigen vooroordelen. Een automatische zeepdispenser leest aan de hand van bewegingen van handen of er zeep uit de pomp dient te komen. De software in de zeepdispenser is daarbij ingesteld op witte mensen. Mensen met een andere huidskleur hebben vaak moeite om de zeep uit de dispenser te laten komen. Verrassing: de dispenser werkt wel als de persoon de handen bedekt met een wit handdoekje.
Het lijkt een klein en onschuldig voorbeeld. Een foutje in het ontwerp of de programmatuur, een 'glitch' zoals dat in de software-ontwikkeling genoemd wordt. Maar Broussard legt uit dat het niet zo simpel is. Deze fout is een teken van een groter probleem: te weinig diversiteit in de ontwerp- en bouwteams van dit soort techniek. Deze fout was namelijk niet ontstaan als er binnen dit team iemand was geweest met een andere huidskleur. Dan had de dispenser waarschijnlijk op een andere manier ingeregeld geweest. Met dit simpele voorbeeld laat ze zien hoe gebrek aan diversiteit leidt tot vervelende gebruikerservaringen voor iedereen die niet tot de standaard behoort.
Toenemende afhankelijkheid van techniek
En dat terwijl we in toenemende mate afhankelijk zijn van techniek in ons leven. In de gezondheidszorg, in het onderwijs en in ons werk krijgen we steeds te maken met de toepassing van digitalisering en nu ook artificial intelligence om ons werk en ons leven efficiënter te maken. Maar efficiëntie staat volgens Broussard niet gelijk aan effectiviteit. Bovendien zijn er genoeg onderdelen in het leven te bedenken waar efficiëntie en effectiviteit überhaupt niet de belangrijkste afwegingen zouden moeten zijn.
De voorbeelden die Broussard aandraagt zijn heel verschillend, maar allemaal laten ze zien hoe te zwaar leunen op techniek besluiten en levens van mensen negatief kan beïnvloeden. En hoe die impact groter is bij mensen die niet tot de standaard doelgroep behoren, dus geen witte man zijn. Het gaat hierbij bijvoorbeeld om het geautomatiseerd stellen van diagnoses of het laten beoordelen van essays en toetsen in het onderwijs.
Bewustwording is een belangrijke eerste stap
Erkennen dat techniek niet neutraal is, is een eerste stap om te zorgen dat groepen in onze samenleving niet onbedoeld benadeeld worden door die techniek. Dat is nog niet zo makkelijk in een wereld waar veel techfanaten rondlopen. Er is veel hoop dat techniek een deel van de grote problemen van onze tijd gaat oplossen. Historisch gezien betekent dat vervolgens, dat er andere problemen voor terug komen. Je daar bewust van zijn is een belangrijk onderdeel van de invoering van technische oplossingen.
Het boek van Broussard is een wake-up call. De voorbeelden die ze benoemd, zijn soms schokkend. Je kan je bijna niet voorstellen dat we voor cruciale beslissingen over iemands gezondheid of onderwijs zo veel belang hechten aan techniek. Techniek waarvan we weten dat die niet feilloos is. Daarmee zet het boek een belangrijk onderwerp op de agenda. De persoonlijke voorbeelden maken het daarnaast makkelijk om je in te leven in de manier waarop dit je eigen leven mogelijk beïnvloedt. Broussard blijft weg bij al te technische uitleg en neemt je mee in alledaagse situaties, die je zelf ook bij de hand kan hebben.
Je koopt het boek 'More than an Glitch' hier.
Dit boek staat ook in de lijst '100 boeken van zakenvrouwen'.
Over Meredith Broussard
Meredith Broussard is een data journalist. Ze doceert dit vak daarnaast aan de Arthur L. Carter Journalism Institute of New York University. En ze is onderzoeksdirecteur van New York University Alliance for Public Interest Technology. Ze schreef verschillende boeken over de impact van technologie op onze samenleving. Haar onderzoek richt zich op de invloed van artificial intelligence (AI) op de onderzoeksjournalistiek en 'ethical AI' in relatie tot sociale doelen. Meer informatie over Meredith Broussard vind je op haar website.
Disclaimer: deze blog bevat affiliate links. Als je iets bestelt via een link op deze website, ontvangen wij zonder extra kosten voor jou een kleine commissie. Zie het maar als een bedankje van jou aan ons voor alle uren boeken lezen…
