Uit de boeken - De gevolgen van tech

De lijst digitale tsaren, en boeken over die tsaren, is lang. Vaak schokkende boeken, over vrijwel altijd kleurrijke figuren. Maar in het echte leven zijn er onderwerpen rond tech die meer invloed op ons leven hebben, dan de zoveelste woedende Tweet van Elon Musk. Denk aan data, ethiek, digitale onveiligheid, facial recognition software, privacy en biases die (onbewust) optreden. Over die laatste onderwerpen gaat het in deze aflevering van Uit de boeken. En dan vooral over de kanttekeningen.

Maar laten we beginnen bij een paar boeken vanuit tech-optimistische hoek. Tech for Good - Solving the World’s Greatest Challenges bijvoorbeeld. Een fraai uitgegeven boek van Marga Hoek. Hoek zit in het kamp dat gelooft dat technologie ons uit de problemen gaat helpen. Velen scharen zich achter het positieve idee van de Vierde Industriële Revolutie. Juist investeringen in technologie, en gekoppeld aan Groene Groei, kunnen ons op een positief klimaatpad brengen. Lees bijvoorbeeld ook Tomorrow's Economy van klimaatpsycholoog en econoom Per Espen Stoknes, die een groene toekomst voorspelt op basis van puur technologische vooruitgang.

Hoek stut haar betoog met het UN Sustainable Development Goals-raamwerk waarin 17 hoofddoelstellingen beschreven zijn om de wereld voor 2030 in de goede richting te krijgen. Honderden en honderden voorbeelden komen langs, losjes gerangschikt in de hoofdstukken AI en data, 3D printing, Robotics, Advanced Materials, Extended Realities, Autonomous Vehicles en drones, Blockchain en Spacetech. Veel voorbeelden zitten nog in de startupfase, of vallen onder de hoede van één van de grote tech-bedrijven. Goede technologie is veelal te vinden in de gebieden zorg, voeding, energie en logistiek (o.a. vervoer). Er zit een belangrijke blinde vlek in de voorbeelden van dit boek: materiaal. Voor slimme technologie zijn materialen nodig, en die zijn er (nog) niet. En nog wat: Hoek is een voorstander van het inzetten van Internet of Things: apparaten met sensors en internetconnectie. Daar zijn er al miljarden van, gemaakt van waardevolle materialen die niet meer voor iets anders gebruikt kunnen worden.

Hannah Ritchie gebruikt in Niet het einde van de wereld hoogwaardige data-analyse om een hoopvol verhaal te vertellen. Als je Rutger Bregman én Margaret Atwood op je cover hebt staan, dan moet je een verhaal hebben! Onze lucht is de gezondste sinds eeuwen, en in landen die werk maken van de natuur, is deze bezig zich te herstellen. Veel data en statistiek, met als nadeel dat er volgens de auteur aan de grote vraagstukken maar op een paar manieren gewerkt kan worden: individueel en via regelgeving. Individueel door nieuwe en kansrijke technologieën te steunen. Vaak zijn deze in het begin duur, maar naarmate meer mensen deze gaan gebruiken zullen de prijzen snel dalen.

De spiegel

In Technologie twijfelt ook houdt auteur Filip Van den Abeele de positieve boodschap van Hoek en Ritchie een spiegel voor. De ondertitel Dertien dilemma’s over innovatie en ethiek geeft al de dimensie weer die in de eerdere twee ontbrak: het ethisch vraagstuk. Leuke dilemma’s soms: E-health ‘an app a day keeps the doctor away’. We volgen het 10.000 stappen regime van onze smartwatches, stoppen onze eetdata in een app, en we stellen onze gezondheidsvragen eerst aan Google. En dan heb ik innovaties zoals slimme kleding en slimme pillen nog niet genoemd.Een complete generatie beoefent actief het quantified self. De gevolgen zijn divers. Hun data is in ieder geval vaak in handen van voornamelijk commerciële partijen die niet echt aan privacy doen. Vinden wij het erg als onze medische informatie bij verzekeraars of werkgevers komt?

Er zijn ook bijwerkingen. Jongeren hechten bijvoorbeeld veel geloof aan influencers die de raarste gezondheidstips delen op TikTok. Zo vindt het diabetisch medicijn Ozempic sinds twee jaar zijn weg naar mensen die snel en makkelijk willen afvallen (met wat bijverschijnselen). Wereldwijde leveringsproblemen voor diabetisch patiënten zijn het gevolg.

Tot slot wijs ik op het vermenselijken van technologie (met een duur woord antropomorfisme). De titel Technologie twijfelt ook suggereert dat technologie een wezen is, met twijfel, en misschien hoop en angst. De software developers van OpenAI maken hier slim gebruik van door met hun promptdesign te suggereren dat er gelijkwaardige dialoog plaats vindt tussen de gebruiker en de chatbot.

Brein, taal en intelligentie

We moeten het ook over de combinatie van big data en algoritmes hebben. Met Generatieve AI is de geest uit de fles. Kunstmatige intelligentie is al driekwart eeuw onder ons, en er is al veel bereikt en geïmplementeerd, onder meer in de zorg. Maar nu gaat het over taalmodellen en intelligentie. De tech-optimisten zien in AI (bijvoorbeeld in de vorm van een chatbot of een robot) een assistent. Ze zien een symbiotisch model dat ons een stevige sprong voorwaarts kan geven. Bennie Mols Slim, slimmer, slimst is een klein overzichtswerkje dat de lezer die richting in stuurt. De positieve voorbeelden zijn sprekend. Het tijdperk dat ze ons voorbijstreven is nog niet nabij. We blijven biologische wezen, maar zullen toch graag samenwerken, creatief zijn, met andere mensen omgaan.

Uitgebreider en techno-kritischer is Maarten Sukel in De AI Revolutie. Sukels focus ligt op de disruptieve kracht van breed toegankelijke Generatieve AI applicaties als ChatGPT, Gemini, Dall-e (tekst naar beeld) en Sora (voor video). De recente combinatie van neurale netwerken, enorme rekenkracht van platformen en ongekende hoeveelheden beschikbare onlinedata brengen ze tot nieuwe niveaus. GAI is bijvoorbeeld een syntactische machine. Een puur op statistiek gebaseerd taalmodel, zonder kennis van context, semantiek en empathie, en van de kenmerken van de menselijke taalbehoefte. Via wegen als deze duikt Sukel in de betekenis van intelligentie en taal voor de mens.

Taal is ook nog iets anders: taal geeft macht, en met macht komt verantwoordelijkheid. Taal is net zo rijk en arm, beperkt en wijd, open en bevooroordeeld als de mensen die haar gebruiken, online en offline. Veel talen zijn ook koloniale talen, bijvoorbeeld Engels in Noord-Amerika, Azië en Afrika, Frans in delen van Afrika, Spaans en Portugees in Latijns-Amerika. De oude, vaak slechts gesproken talen uit die gebieden zitten niet in de OpenAI-modellen die op een moderne tekstuele omgeving gebaseerd zijn: Internet.

Sukel gaat breed en diep in op onderwerpen waar de beloftes van AI groter zijn dan ze waar kunnen maken. De bedreigingen voor sommige werkomgevingen zijn wel reëel. Het onderwijs probeert zich bijvoorbeeld te gaan verhouden tot leerlingen en studenten die hun werk door AI laten doen. Bedrijven als ALDI besluiten hun marketing en reclames met AI te doen, en sturen hun reclamestem de laan uit. Er zullen er meer volgen. Met het krachtige Co-pilot en alle code uit Git zou het werk van software engineers ‘makkelijker’ worden. En ga zo maar door. De AI Revolutie is een belangrijk boek.

Collateral damage

Naast GAI zijn er nog een aantal technologische ontwikkelingen waarbij we de serieuze vraag moeten stellen of deze technologie voor of tegen ons is. De digitale schat waar de industrie naar zoekt is data. Om hier aan te komen is een aparte criminele bedrijfstak gegroeid. Via chantage, diefstal en gijzeling leggen ze hun handen op persoons- of bedrijfsdata. Huib Modderkolk heeft met Dit wil je echt niet weten een opvolger geschreven van zijn zeer succesvolle Het is oorlog maar niemand die het ziet. Het nieuwe boek is zeer leesbaar, met onbetrouwbare bronnen uit Syrië en Israël, en een digitale contractarbeider die met een internationaal collectief cyberveiligheid probeert te creëren. Alle belangrijke veiligheidsdiensten, NSA, CIA, AIVD en de Mossad komen langs. De rol van een Nederlander in de Stuxnet-operatie wordt uit de doeken gedaan. Modderkolks eerdere boek is informatiever als je over cybercriminaliteit wilt lezen, maar het nieuwe is spannender. De prijs van al deze cybercriminaliteit? Onze digitale veiligheid en privacy.

Ook moeten we ons gaan verdiepen in biases van algoritmes en gezichtsherkenning. Cathy O’Neill, wiskundige en data-specialist, doet een boekje open over allerlei (on)bewuste fouten die in algoritmes worden ingebouwd. In haar boek Weapons of Math Destruction geeft ze een reeks aan voorbeelden hoe biases rondom geslacht, inkomen en ras een rol spelen. Bij banken, rechtsbanken, verzekeraars, ontwikkelaars van gezichtsherkenning enzovoort. Ook betoogt O’Neill dat algoritmes werken met historische informatie om voorspellingen voor de toekomst te maken. In de zorg is allang bekend dat veel onderzoeksresultaten in het verleden verkregen zijn bij mannelijke kandidaten, en dat dit zich vaak slecht naar vrouwen laat extrapoleren.

MIT-studente (nu Dr.) Joy Buolamwini ontdekte tijdens haar studie aan het MIT Media Lab dat ze bij bepaalde gezichtssoftware pas werkte als ze een wit masker opzette. Pas toen werd haar gezicht, dat van een Canadees-Amerikaanse met een Ghanese achtergrond, herkend. Masker af: geen herkenning. Ze beschrijft haar intense ontdekking en onderzoek naar ‘fouten’ in gezichtsherkenningssoftware in Unmasking AI. Ze herleidt diverse problemen in zowel de keuze van de datasets (foto-collecties) als in de keuzes in de code en noemt dit code biases. Dat roept ook de vraag op wie de makers én eigenaren van die code en datasets zijn. Naast onderzoeker is Buolamwani ook initiatiefnemer van de Algoritmic Justice League. Een onafhankelijk platform om misstanden veroorzaakt door AI-systemen te onderzoeken en aan de kaak te stellen.

De gevolgen van al deze biases in met name gezichtsherkenning is onderwerp van het doorwrochte Je gezicht is nu van ons door Kashmir Hill. Centraal staat de handel en wandel van het omstreden Clearview AI. Dat bedrijf heeft tientallen miljarden foto’s in zijn database en doet zaken met banken, hotels, overheden, politie, veiligheidsbedrijven enzovoort. De filosofie van Clearview AI’s oprichters gaat verder dan slechts gezichtsherkenning. Ze gaan terug op oude theorieën op het gebied van de eugenetica en fysiognomie waarbij gedragskenmerken afgeleid zouden kunnen worden van fysiologische kenmerken. Zij startten met de data van OpenFace (een open source database voor onderzoek op het gebied van gezichtsherkenning), maar breidden hun dataset al snel uit naar alles waar ze hun handen op konden leggen, zwaar gefinancierd door Peter Thiel. De dataset is ‘vuil’ en leidde al tot meerdere rechtszaken rondom privacy-issues en valse aanklachten. Een vergelijkbaar initiatief van Facebook, DeepFace is na diverse rechtszaken stilgelegd. Maar van wie is nu eigenlijk jouw gezicht? En wat vind je dat commerciële partijen er mee mogen doen? Kun je nog wel in je recht staan als het algoritme een onterechte keuze maakt (als je dit al te weten komt?) omdat ze jouw gezicht met dat van iemand anders verwarren? Kashmir Hills boek, maar ook dat Cathy O’Neill en Joy Buolamwini zijn de aanzet tot een discussie over de gevolgen van algoritmen, de code die daarvoor geschreven is en biases die daarmee gepaard gaan.

Dit artikel staat in het meinummer van Managementboek Magazine. Deze editie lees je hier >