Jurist Jeroen Pols en Willem Engel besteedden in hun weekjournaal aandacht aan het schimmige AI-bedrijf Palantir, opgericht door Peter Thiel, en de rol van AI in de toeslagenaffaire en tijdens corona.
Hoe heeft de toeslagenaffaire kunnen plaatsvinden? AI leverde in ‘atomic mode’ de ‘fraudeplegers’ aan en de ambtenaren voeren blind op het systeem en controleerden verder niets meer.
Thiel richtte Palantir op om data te analyseren voor onder andere inlichtingendiensten en doet met een privaat bedrijf spionnenwerk voor overheden. Zijn andere bedrijf, Clearview AI, kreeg een recordboete voor het illegaal verzamelen van gezichten.
Wesley Feijth legde in het tv-programma Ongehoord Nieuws uit hoe deze systemen werken en waarom het iedereen aangaat:
Kaltgestellt
Zo worden wij dus door het bureaucratische monster nauwkeurig geobserveerd, merkt neuroloog Jan Bonte op. “En zo nodig ‘kaltgestellt’ als het systeem aangeeft dat dat moet gebeuren. Het zijn geen mensen die over ons beslissen, maar AI-algoritmes.”
Wob-onderzoeker Cees van den Bos wijst erop dat alle privacywetten met voeten worden getreden. “Ambtelijke beslissingen door AI. De toeslagenaffaire was de eerste bekende uitwas.”
“Collaborerende ambtenaren, officieren en beleidsmakers die het plichtsgetrouw implementeren. Ze weten wel waar ze mee bezig zijn. Dondersgoed. Ze weten welke datasets worden gekoppeld en wat ermee wordt gedaan. Ze weten ook dat het niet mag in een rechtsstaat, maar omdat die niet functioneert, wanen ze zich veilig. Ze kunnen nog even door.”
Wat ze echter nog niet overzien, is dat het ook juist hen overbodig maakt, benadrukt Van den Bos.
Monster
Palantir is het programma waarmee wij worden bespioneerd door onze eigen overheid, stelt huisarts Els van Veen vast. “Al voor 2020 werd Palantir aangeschaft, die aanschaf moest geheim blijven. Waarom? Omdat openbaarheid natuurlijk niet werkt.”
Tegen terreurbestrijder NCTV zegt ze: “Jullie hebben zo een monster gecreëerd, een monster zonder menselijk gezicht, zonder empathie, kil en meedogenloos. Ik heb kennis gemaakt met dat monster tijdens corona, het was angstaanjagend.”
President Trump werkt samen met Palantir om data te verzamelen over Amerikanen.
Over de auteur: Robin de Boer is economisch geograaf. Volg hem hier op Substack.
