De onttovering van AI - Een pleidooi voor het gebruik van gezond verstand

We hadden net het manuscript van ons eerdere boek Van Aardbeving tot Zoönose - Over de inzet van modellen voor beleid ingeleverd toen in november 2022 ChatGPT gepresenteerd werd. In ons eerdere boek gingen we slechts summier in op AI, maar de ontwikkelingen daagden ons uit om hier ook iets van te vinden. Het duurde niet lang voordat we de eerste bevreemdende uitspraken in het nieuws tegenkwamen: ‘AI heeft nu een IQ van 150’, ‘Praat met Jezus’ en ‘Laat je overleden dierbare weer tot leven wekken’.

Verlossing of vernietiging

Waar in het begin nog veelal werd uitgelegd dat het om AI ging werd deze belangrijke toevoeging steeds vaker achterwege gelaten en de uitspraken gingen van kwaad tot erger. Ons zou of totale verlossing óf totale vernietiging te wachten staan, maar hoe dan ook: niets zou ooit meer hetzelfde zijn. Sommige deskundigen beweerden zelfs dat AI-systemen ‘bewust’ zouden kunnen gaan worden. We klommen in de pen, en 10 maanden later was De Onttovering van AI - Een pleidooi voor gezond verstand een feit.

technocratisch beleid

Mensen verbazen zich er wel eens over dat wij, een hoogleraar waarschijnlijkheidsrekening en een datawetenschapper, zo kritisch zijn over de inzet van AI, maar die mensen hebben niet goed opgelet. Tijdens de coronajaren voerde Nederland (en veel andere landen) een technocratisch beleid, ten koste van vanzelfsprekende burgerrechten, van gezond verstand, van ethische bezwaren. Dat alles leek menig beleidsmaker totaal niet te deren. Wie echter denkt dat wij onze omgeving kunnen reduceren tot techniek, algoritmes en modellen, zal uiteindelijk bedrogen uitkomen. Wiskundige modellen, waartoe AI behoort, zijn vooral het begin een gesprek en niet het einde – dat was de een-regel-samenvatting van ons eerdere boek. Dit uitgangspunt werd niet gehonoreerd, en daar hebben wij ons luid en duidelijk tegen verzet.

gesprekken mét AI

Met de komst van software zoals ChatGPT, Gemini, of DALL-E heeft die uitspraak een bijzondere wending gekregen: we voeren nu juist gesprekken mét AI. Het gemak waarmee opdrachten in natuurlijke taal wordt omgezet in gedetailleerde antwoorden is indrukwekkend. Voor het eerst in de geschiedenis van AI is AI ook écht toegankelijk. Die toegankelijkheid wordt stelselmatig begeleid met de belofte van meer én beter. Eindelijk, zo luidt het adagium, zal er nu tijd zijn voor die dingen die écht de moeite waard zijn. Zelf geloven wij hier niet zo in. Liever volgen we het gedachtegoed van de Duitse filosoof Friedrich Jünger die een eeuw geleden gelijksoortige kritiek had op de belofte van de industrialisering. Hebben we namelijk echt meer tijd gewonnen? Zijn we echt meer waardevol werk gaan doen? Natuurlijk niet.

Roker

Rond AI zou het niet moeten gaan over de vraag of AI de mens gaat overnemen, maar over de vraag of wij mensen ons láten overnemen. Zo sterk is de aantrekkingskracht van algoritmes dat menig gebruiker al niet meer zonder kan. Het heeft ons verbaasd hoe weinig zelfreflectie er is in het toepassen van AI.

Daarmee doet de AI-gebruiker van vandaag ons steeds vaker denken aan de roker: iemand die naar eigen zeggen zich volledig bewust is van de kosten van gebruik én dus ook op elk moment kan stoppen. Als het maar niet vandaag is. De Onttovering van AI - Een pleidooi voor gezond verstand biedt een overdenking aan die hopelijk bijdraagt aan een wat verstandigere omgang met AI.