Zondagnacht haalde Oppenheimer de meeste Oscars op. De film over de man achter de eerste atoombom trok miljoenen kijkers en werd al ‘de belangrijkste film van de eeuw’ genoemd. Forse woorden met een forse waarschuwing: de gevolgen van machtige technologie zijn amper te overzien. En toch, het gebeurt opnieuw. AI-toepassingen met de kracht van een kernbom vloeien zo de markt op. Regelgeving is er nauwelijks.
Nu was de atoombom nog te snappen. Maar AI-programma’s ontwikkelen zichzelf. Die zijn binnenkort door de slimste programmeurs niet meer te begrijpen. Nog heel even, dan kan de mens zich van het gevaar niet eens meer een voorstelling maken.
Intussen kunnen de nieuwste AI-programma’s wél alle mogelijke beelden scheppen. Afgelopen week verschenen foto’s van Donald Trump te midden van blije zwarte kiezers. Al snel werden ze ontmanteld als AI-knutselwerk uit het Trump-kamp. Toen hadden de beelden hun werk al gedaan. OpenAI, het bedrijf achter ChatGPT, presenteert zijn nieuwste toepassing: Sora. Een simpele opdracht volstaat voor een levensechte AI-video.
Zoals sociale media ongereguleerd onze democratie aantastten, zo ongehinderd kunnen deepfakes van Sora de markt op. Al zijn ze massavernietigingswapens in onze democratie, de technologieën zijn van bedrijven die sturen op maximale winst.
Zie AI als een machtige kracht aan de rand van het democratisch universum. Hoe staat het dan met de defensie in zijn boezem? Die vraag wasemde tussen alle regels van het interview van De Groene Amsterdammer met Dick Schoof. De hoogste ambtenaar op het ministerie van Justitie en Veiligheid blijkt een toegewijde, rechtschapen man. Onwankelbaar is zijn geloof in de instituties van de rechtsstaat.
Wat hij zou doen als de rechtsstaat wordt uitgehold, zoals in Hongarije en Polen? Schoof: ‘Dan is de eerste belangrijke vraag: wie ben ik om tot het oordeel te komen dat ik het goed zie en de rest niet?’ Zijn ‘morele pijngrens’ zal hij ‘de komende jaren niet bereiken’. Die komt pas in zicht als het parlement de grondwet zo wijzigt dat het voortbestaan van de democratie in gevaar komt. Mocht de politiek toch ongrondwettelijke besluiten nemen, ‘dan strandt het gewoon bij de rechter of bij het Europees Hof’. Interviewer Bas Mesters sloeg het Handboek Dictator nog verder open: stel Wilders is straks minister van Justitie en keurt bepaalde rechters af? Ondenkbaar, vindt Schoof. Hij krijgt dan ‘meteen gedoe met de Raad voor de Rechtspraak…’
Hadden journalist en ambtenaar nou maar gekeken naar Saskia Dekkers’ reportage voor Nieuwsuur in Polen. Daar brak de radicaal-rechtse PiS de publieke omroep en onafhankelijke rechtsspraak af – zoals Wilders al jaren verkondigt. De afbraak vond plaats zonder van de grondwet een letter te wijzigen. Dat lukte omdat PiS, in strijd met de grondwet, PiS-aanhangers installeerde in de Raad voor de Rechtspraak. Vervolgens werden kritische rechters ontslagen en vervangen door tweeduizend PiS-getrouwen.
Het repareren van de democratische rechtsstaat blijkt niet makkelijk. Om de ongrondwettelijk benoemde rechters te ontslaan, moet je de grondwet weer schenden – opnieuw een verminking van wat je juist wil helen. Daarom dat ze in Polen hartgrondig waarschuwen voor illiberale politieke partijen. Die kunnen in een oogwenk slopen wat moeilijk wordt herbouwd.
Nu is de democratische rechtsstaat toch allereerst een gemeenschap van waarden. Om die morele ordening staat weliswaar een gietijzeren hek van instituties, onbreekbaar is dat niet. Waarom zou technologie die de waarheid wist, niet uitsluitend binnen strikt morele kaders worden toegelaten? En waarom maakt een topambtenaar met in zijn handen het broze ding dat democratie heet, liefst geen morele afweging?