
Decide for Impact podcast
De machtscode – Marietje Schaake #boekencast afl 142
Vandaag bespreken we het boek De machtscode van Marietje Schaake. De ondertitel is: Hoe de onzichtbare belangenstrijd achter AI onze democratie bedreigt https://www.linkedin.com/in/marietjeschaake https://nl.wikipedia.org/wiki/Marietje_Schaake Marietje was 10 jaar lid van het Europees Parlement voor D66. Ze was verbonden aan de Universiteit van Stanford tot april 2026 als Fellow van het Institute for Human-Centered AI. Ze is vooral actief op het gebied van de onafhankelijkheid van Amerikaanse Big Tech. In 2024 gepubliceerd: De tech coup. Hoe tech is gaan regeren en we de macht weer terugwinnen, Atlas Contact, Amsterdam. ISBN 978904504662 In februari 2025 ontving Schaake een Felipe Rodriquez Award, de positieve variant van de Nederlandse Big Brother Award, voor "het aankaarten van de gebrekkige tot afwezige democratische controle op de Big Tech-bedrijven die onze wereld vormgeven". Boek: Inleiding - In de ban van AI De doorbraak van AI De mythe van AI De ideologie achter AI De macht van AI Een agenda voor AI Nawoord - Tijd voor zelfvertrouwen Inleiding - In de ban van AI In de inleiding laat ze direct de risico's en kwetsbaarheden van het AI-gebruik zien. We laten belangrijke beslissingen over aan ondoorzichtige systemen die zijn ontworpen om waarde te creëren voor aandeelhouders. Daarnaast wordt er te weinig gekeken naar de gevolgen, zoals milieuschade, sociale ontwrichting en onvoorspelbaarheid. We worden vooral gestuurd door kansen. In Europa gebruiken we massaal Amerikaanse platforms en investeren we in Amerikaanse techbedrijven waarmee we de Amerikaanse economie ondersteunen, terwijl ze de democratie in Europa onderuit willen halen. De machtscode: wie de controle over de AI-infrastructuur heeft, bepaalt welke informatie miljarden mensen bereikt, welke vragen als legitiem worden beschouwd en welke antwoorden als waarheid worden gepresenteerd. Het boek is een pamflet. De doorbraak van AI Veel mensen gebruiken AI, ook als ze daarmee hun eigen werk uiteindelijk overbodig maken. We werken direct mee aan de groei van AI-bedrijven. AI is ons leven binnengeslopen voordat we goed hebben begrepen wat de consequenties zijn. Gesloten systemen, waarin bedrijven vinden dat zij alleen een veilig gebruik van AI kunnen garanderen. De geschiedenis wijst uit dat dit niet lukt. Uiteindelijk gaat de winst van het bedrijf voor. AI als intieme partner voelt een emotionele band met de bot. Met name bij jongeren die zijn opgegroeid met de mobiel in de hand. AI sluipt in alle apps op je telefoon. Whittaker (Signal) waarschuwt dat agentic AI (die allerlei taken van je kan overnemen) het einde is van de privacy. Het systeem heeft overal toegang toe en kent je bank- en creditcardgegevens. AI heeft invloed op ons welzijn, werk en de weerbaarheid van mensen en daarmee op de maatschappij. Het stuurt ongemerkt ons gedrag. Waarvan we afhankelijk worden van een klein aantal (tech)bedrijven met ondoorzichtige belangen en nauwelijks democratische controle. Ze optimaliseren voor schaal en snelheid en niet voor maatschappelijke verantwoordelijkheid, welzijn of het voorkomen van problemen. De mythe van AI p38 De mythische verhalen over AI legitimeren macht, rechtvaardigen offers en maken halfgoden van AI-experts. Het geeft deze bedrijven meer macht en aanzien en ze lijken alle investeringen waard. De bedrijven verzamelen gigantische hoeveelheden data over wat wij online doen. (Google, Meta, Amazon) Managers willen AI inzetten voor meer efficiëntie. De angst voor China bij de techbedrijven dat ze worden ingehaald, waardoor er steeds hogere bedragen worden geïnvesteerd. Wanneer de bubbel barst met de geplande IPO's van tientallen miljarden, lijkt er een nieuwe piek te zijn. Als de bubbel barst, dan heeft dit ook effect op de rest van de economie omdat veel bedrijven in AI hebben geïnvesteerd (FOMO), zoals de Nederlandse pensioenfondsen. De vooruitgang van AI lijkt niet te stoppen, haast onvermijdelijk, alsof we geen keuze hebben, maar die hebben we wel. De ideologie achter AI De Nederlandse overheid en bedrijven zijn afhankelijk van Amerikaanse technologie; zie het gebruik van Microsoft 365 (overheid en bedrijven) en Google (bedrijven en privé). Deze bedrijven zijn nauw verbonden aan de politiek in de VS. De mensen achter de AI-bedrijven (met macht), bijna allemaal witte mannen met techno-utopische, antidemocratische en anti-Europese ideeën. p58 Soms zelfs fascistisch of technofascistisch. Ze beïnvloeden met hun platformen de meningen en emoties in vele landen. Libertarische ideeën, vrije markt en individuele vrijheid. Het belangrijkste doel is groei en winst voor de eigen bedrijven. Ze lobbyen tegen wetgeving op het gebied van AI, technologie, privacy, vermogensbelasting. Ze hebben grip op de media, zoals Bezos (Washington Post en Time Magazine) en Ellison (CBS en Paramount), en Musk met Twitter. Thiel is oprichter van Palantir, waar veel overheidsdiensten, zoals politie en leger, al mee werken. (niet van overtuigd dat vrijheid en democratie samen gaan). p62 "Echte vrijheid voor ondernemers zoals hij is onmogelijk in een democratie waarin iedereen een stem heeft." Ze komen met startup states en CEO-koningen. De miljardairs in het The Autoritarian Stack-netwerk willen steeds meer overheidsfuncties omzetten in private producten zoals DigiD en betalingsverkeer. De macht van AI Macht over het milieu - kan klimaatverandering tegengaan en zorgt tegelijk voor een toename van het fossiele energieverbruik. De automation bias - we geloven dat geautomatiseerde systemen neutralere of eerlijkere beslissingen nemen dan mensen. Systemen zijn ontworpen, gebouwd en getraind door mensen. Discriminatie door deze systemen (toeslagenaffaire) Zoekmachine Zero - nul klikken in de zoekmachine met AI-gegenereerde antwoorden hoef je niet meer door te klikken naar websites, terwijl ze wel de oorspronkelijke informatie leveren. Interessant GPT-NL gebaseerd op de archieven van Nederlandse mediabedrijven. Enshittification van Cory Doctorow - goed boek dat schrijft over verslechtering van de producten en diensten van de topbedrijven zoals Google. Macht over de economie, cultuur en werk. Productiviteit stijgt en inkomen daalt. Werken loont steeds minder. Macht over de politiek - ondermijning van de democratie p101 106, 107 en 108 Macht over de regelgeving - minder regels, deregulering. De machtscode - verschuivingen op de arbeidsmarkt, het verlies van kennis en intellectueel eigendom, de grote hoeveelheid water, land en energie die nodig zijn, de erosie van de rechtsstaat. De impact van AI is gigantisch en lang niet altijd duidelijk. Digitale autonomie moet het uitgangspunt zijn voor de overheid p115 Een agenda voor AI p119 opsomming van wat we hebben in Nederland: ASML, efficiënte landbouw, internetknooppunt, goede universiteiten. Concrete visie op publieke waarden in de digitale wereld. p120 Rapport Wennink - te veel door een economische bril gekeken en te weinig door een maatschappelijke bril. Er is beweging - DigiD wordt teruggedraaid. Vanochtend in FD dat "De fiscus wil ‘voorloper’ op het gebied van digitale autonomie worden binnen de Rijksoverheid, na kritiek op de overstap naar Amerikaanse leveranciers." https://fd.nl/politiek/1599626/belastingdienst-scherpt-aanbestedingsbeleid-it-projecten-aan Stoppen met de aandelenbeurzen van landen buiten de EU massaal te subsidiëren. (er komen grote IPO's aan) Maak de stappen naar digitale soevereiniteit concreet. p128 Test AI voordat het op de markt komt Zorg ervoor dat iedereen toegang heeft tot AI Faciliteer onafhankelijke kennis over AI Zet huidige wet- en regelgeving in Maak handhaving flexibeler Bouw Europese AI (publieke waarden) Trek talent aan Verstevig samenwerking tussen democratische landen Vorm een democratische AI-alliantie Leer van anderen Gebruik onze troeven Nawoord - Tijd voor zelfvertrouwen Europa heeft veel goede dingen en Silicon Valley wat minder romantiseren. Je kunt zelf ook iets doen voor meer democratische grip op AI: stap over van ChatGTP of Gemini naar Mistral Vibe (voorheen Le Chat) stap over van Sharepoint naar NextCloud van Gmail naar Proton Mail Er zijn genoeg Europese alternatieven zie https://decideforimpact.com/eu-tech/ p154 afsluiter Opvallende lessen uit het boek voor ons: 00:00 Intro van het boek en eerste indruk van Erno 04:40 De drie elementen waarom de serie De Vonkjes zo waarderen. 08:35 Een inkijk in hoeveel macht de AI-techbedrijven hebben, met name door gigantische verwachtingen te geven over de toekomst met AI. 14:35 Een voorbeeld van de macht van de VS is het blokkeren van creditcards en e-mail van rechters van het Internationaal Gerechtshof. 16:15 Voorbeeld van DigiD: hoe de politiek niet ingrijpt als de VS meer macht dreigt te krijgen en toestemming geeft voor de verkoop. 19:55 Medicijnen worden getest, AI amper. 20:40 AI is een machine die ons bedreigt en we moeten daarom de mens voor AI beschermen [Tom] 22:15 Onder druk van de versnelling naar de toekomst worden langetermijnbeloften gedaan en moeten belemmeringen op dit moment worden geminimaliseerd. 23:05 Hoe een versie van Gen AI (Claude) de besluitvormers (mensen) beïnvloedt en zelfs chanteert om niet op te waarderen naar een nieuwe versie. 28:05 De financiële markten die afhankelijk zijn van het succes van AI door de enorme investeringen met alle risico's van dien als de bubbel barst. 29:35 De FOMO-gedachte waardoor het lijkt dat we geen keuze hebben en wel moeten doorgaan met AI. 30:05 Vanuit de Amerikaanse optiek speelt Europa geen rol meer in de AI-wedloop. 30:50 Kritische vragen worden bestempeld als anti-patriotisch. 34:05 Bria heeft met The Authoritarian Stack in kaart gebracht hoe de spelers samenhangen. ...

