Het moment dat de mens niet langer nodig is om robots en computers te programmeren en te verbeteren (ook wel singularity genoemd) zal volgens sommige voorspellingen al binnen twintig jaar aanbreken. ‘Vanaf dat moment zullen deze machines en systemen zichzelf (her)programmeren, verbeteren en upgraden. Mensen zullen niet langer in staat zijn om te begrijpen hoe dat allemaal precies werkt, maar het werkt,’ zo schrijven Tjeu Blommaert en Stephan van den Broek in Management in Singularity.
Deze technologische innovaties brengen ook nieuwe psychologische problemen met zich mee, schrijft de New Yorker. Mensen zijn bijvoorbeeld niet zo vergevingsgezind ten opzichte van technologieën; ze vergeven mensen sneller als iets verkeerd loopt. Maar de grootste paradox waar ontwikkelaars tegenaan lopen is hoe een techniek te ontwikkelen die vertrouwen wekt, maar gebruikers er tegelijkertijd aan herinnert dat hoe goed ze ook functioneert, ze nooit perfect zal zijn.
Het voorbeeld van zelfrijdende auto’s illustreert deze paradox. Aan de ene kant hebben de ontwikkelaars nog veel werk te doen aan het creëren van vertrouwen in zelfrijdende auto’s. 75 procent van de ondervraagde automobilisten in de Verenigde Staten gaf in een onderzoek aan zich niet veilig te voelen in een zelfrijdende auto.
Volgens een engineer bij Volkswagen kan met drie ingrepen het vertrouwen in de techniek worden verbeterd: het moet duidelijk zijn wanneer de auto autonoom rijdt, de passagiers moeten weten dat de auto de omgeving ‘ziet’ en de wagen moet mensen waarschuwen voordat het iets doet. ‘Er is niets verontrustender voor passagiers dan wanneer een bestuurder abrupt van baan verwisseld of uitwijkt,’ aldus de engineer. Daarbij blijkt dat hoe menselijker deze alarmerende functies zijn – bijvoorbeeld de stem die een manoeuvre aankondigt – des te meer mensen het systeem vertrouwen.
Maar daar komt een nieuw probleem om de hoek kijken: wanneer het vertrouwen in de techniek groeit, raken mensen te comfortabel. Als mensen niet zelf hoeven te rijden, neemt hun aandacht voor de veiligheid ook snel af, ze worden passief – volgens een onderzoek kan dit gevoel van comfort al na tien minuten in een zelfrijdende auto intreden. Er gaan al verhalen rond over verongelukte Tesla’s waarin passagiers op zoek waren gegaan naar andere activiteiten – zoals het kijken van Harry Potter films – in plaats van het systeem te controleren.
Dat is de paradox van de ontwikkelaars in een notendop: hoe mensen van de taak van het besturen van een auto te ontslaan en ze tegelijkertijd opzadelen met de zorg dat ze ieder moment de controle op de auto over moeten nemen.
