Houd het hoofd koel en zorg dat je meepraat
Op de derde dag van SXSW Londen bekruipt me een soort duizeligheid. Een wetenschapper van het MIT heeft de moderne samenlevingen vergeleken met piloten die vliegen zonder instrumenten. De uitvinder van het World Wide Web heeft op het podium toegegeven dat hij zich zorgen maakt over wat er op basis van zijn uitvinding is opgebouwd. Toen ik weer thuis was, was één ding me wel duidelijk: we leven midden in het AI-experiment –met bedrijven die ons steeds beter kennen dan we onszelf lijken te kennen. Vier lessen voor Npuls en het Nederlandse vervolgonderwijs.
1. We voeren een live-experiment uit op een hele generatie, en niemand heeft daarmee ingestemd
Opgroeien met een continu beschikbare, eindeloos geduldige, nooit veroordelende gesprekspartner in je zak leidt tot een ‘vertrouwensparadox’: hoe meer we gewend raken aan het uitbesteden van onze emotionele behoeften aan machines, hoe minder we oefenen in de omgang met andere mensen. AI zorgt niet voor wrijving. En dit is een van de meest ingrijpende ontwerpbeslissingen van onze tijd: wrijving is namelijk geen fout in menselijke relaties, het is wat ons mensen maakt.
Maar wat me het meest aangreep was niet een statistiek. Het was het besef dat we een real-life experiment uitvoeren op een hele generatie, zonder controlegroep, zonder geïnformeerde toestemming en zonder afgesproken einddoel. Het is een grote gok over wat er met menselijke intimiteit gebeurt als de ‘nieuwe gesprekspartner’ nooit ‘nee’ zegt.
2. Wie de vraag formuleert, bepaalt het antwoord
“De meeste organisaties hebben werkelijke geen flauw idee hoe AI wordt ingezet in hun organisatie,” gaf een spreker aan. Ze weten niet wie hun intensieve gebruikers zijn, wat zij met de tools doen, en of het überhaupt werkt.
Geconfronteerd met een dilemma rond AI –investeren in AI voor gezondheidszorg of in voedselzekerheid– was het publiek in een verhouding van twee tegen één verdeeld. Toen dezelfde keuze anders werd geformuleerd–vroege ziekteopsporing met dank aan AI versus door AI ontworpen gewassen– sloeg de verhouding drastisch om. Er was niets veranderd aan de feitelijke afweging: alleen de bewoording was veranderd. Dit is geen PR-truc, het is sturing zonder dat je het door hebt.
Elke keer als iemand zegt: “AI is neutraal,” of: “dit is onvermijdelijk,” kiest diegene een frame dat stuurt. Bovendien blijkt uit historische ervaringen dat we fundamenteel slecht zijn in het voorspellen waar transformatievetechnologie toe leidt. We moeten ervan uitgaan dat AI ons zal verrassen op manieren die we niet voorzien en we moeten daarop voorsoorteren met het inrichten van structuren en systemen.
3. Stem, geheugen, data: wie bezit welke delen van jou?
Als onderdeel van een meeslepende audioperformance werd een verontrustende ervaring gedeeld: stemactrice Emma Clarke kreeg een contract aangeboden om de officiële stem van een groot Amerikaans bedrijf teworden. Verborgen in de laatste clausule van haar contract stond de eis om voor altijd afstand te doen van alle rechten op haar eigen stem. De formulering was bijna komisch: totdat de zon sterft. Behalve dat het simpelweg was wat het bedrijf wilde. Clarke vond het zo absurd dat ze ermee instemde de clausule hardop voor te lezen als afsluitend deel van de voorstelling en zo contracttaal protestkunst maaktte.
Sir Tim Berners-Lee bracht een verwante waarschuwing: het www begon als een goed idee en werd gaandeweg giftig. LLM’s vertegenwoordigen een soortgelijke escalatie: in tegenstelling tot de marketingtools van sociale media vergeten LLM’s nooit iets, om nog maar te zwijgen over het feit dat veel LLM's gegevens hebben verwerkt die wettelijk gezien niet van hen waren.
In al deze dit geweldig staat een vraag centraal: wanneer je een deel van jezelf – je stem, je gewoontes, je geschiedenis – in AI stopt, van wie is het dan? Van jou, of van de machine?
4. Keep it cool en neem je eigen stoel mee
Sir Nick Clegg weerlegde het pessimisme: 85 procent van de wereldeconomie draait nog steeds om fysieke zaken die over de planeet worden vervoerd – logistiek, productie, robotica, industriële systemen. Hier ligt nogs teeds de expertise van Europa. Zijn advies: luister niet naar technologen die uitspraken doen over arbeidsmarkten die ze niet goed begrijpen, en realiseer je dat de daadwerkelijke toepassing in de praktijk altijd trager verloopt dan de hype. Zijn woorden: “Keep it cool.”
Bo Young Lee bouwde hierop voort in haar sessie: technologie is geen technisch probleem, het is een maatschappelijke uitdaging. Je hoeft geen software developer te zijn om onderdeel van dit gesprek hierover te zijn. Je moet een burger zijn die weigert zich afzijdig te houden van alles wat er gebeurt rondom en met tech. Vraag jezelf af wie er baat heeft bij een bepaalde bewering of bepaald verhaal, voordat je het aanneemt. Vraag jezelf wat er bewust moeilijk te begrijpen wordt gemaakt, en waarom dat zo is. Als je niet meepraat, is de kans groot dat er óver je gepraat wordt.
Een les voor Npuls en de onderwijssector
SXSW heeft me veel inzichten gegeven, maar de duidelijkste heeft wel te maken met onze dagelijkse praktijk: het heeft mijn overtuiging in onze Npuls-missie enorm versterkt: we moeten AI toegankelijk maken voor het onderwijs op voorwaarden die ten dienste staan van lerenden, onderwijsprofessionals én publieke waarden. Het gesprek over AI wordt nog gevormd, zowel door nationale als Europese overheden die nog aan het bepalen zijn wat hun standpunten zijn. Als vervolgonderwijssector moeten we zorgen dat we dit gesprek medevoeren en beïnvloeden. Lerenden rekenen erop dat we dat we dit doen en als Npuls en met onze partners hebben we nu kans het vervolgonderwijs rond deze gedeelde belangen te verenigen.