Soms schudt technologie onze diepgewortelde gewoonten en culturele afspraken flink op. De samenleving moet dan herijken. We hebben vaker met dat bijltje gehakt. Vijftig jaar geleden bijvoorbeeld maakten we kennis met ingrijpende technologie, die de relatie tussen seksualiteit en voortplanting radicaal veranderde: de pil. 

Deze ontwikkeling ontketende een maatschappelijke revolutie. Toen seks niet langer automatisch tot ouderschap leidde, veranderde onze manier van leven. De pil bood vrouwen vrijheid en bracht een morele en maatschappelijke zoektocht op gang: hoe ga je om met keuzevrijheid, verantwoordelijkheid en intimiteit wanneer de natuur niet langer de grens bepaalt? Het kostte decennia om die nieuwe ruimte te leren begrijpen.

Technologie heeft dus diepgaand invloed op de manier waarop de samenleving zichzelf vormgeeft. Als je terugkijkt, zijn belangrijke kantelmomenten in de geschiedenis makkelijk aan te wijzen. Er is nu opnieuw een scherpe wending aanstaande. Generatieve AI is de anticonceptiepil van vandaag.

Verband toetsing en leren

De relatie tussen kenniswerk en een hoog loon is niet langer vanzelfsprekend. Hetzelfde geldt voor creativiteit. Dat is geen schaars goed meer en geen vrucht van jarenlange training en de ontwikkeling van een persoonlijke stijl. Zelfs vriendschap en een luisterend oor zijn los komen te staan van menselijk contact. De siliconen AI-compagnon biedt bemoediging en troost op elk uur. En in het onderwijs? Daar vervalt het logische verband tussen toetsing en leren. 

Keuzes maken

Nu we denkwerk uitbesteden, draait het om de keuzes die we maken. Haal dus maar een dikke streep door je Cogito ergo sum. Het gaat niet meer om denken. We zijn wat we kiezen. Niet ‘Ik denk, dus ik ben’, maar: ‘Ik kies, dus ik besta’: Deligo, ergo sum.

Maar kiezen doen we niet in een vacuüm. Onze wil wordt beïnvloed door systemen die meedenken, meekijken en meebeslissen. We bewegen ons in een gekleurde digitale werkelijkheid vol ingebouwde aannames. Als opdrachtgever of afnemer van digitale systemen moeten we ons bewust zijn van de ethische component van die systemen. We moeten ervoor zorgen dat we een gelijkwaardige gesprekspartner zijn van de leverancier. Als we dat verzuimen, zijn we overgeleverd aan het ethisch vermogen van hoodies in Silicon Valley, of Madras. Of erger nog: aan dat van de aandeelhouders van Big-Tech. Een voorbeeld daarvan is het leerlingvolgsysteem (lvs).

In het lvs worden cijfers gepubliceerd en direct gedeeld met de ouders. Dat grijpt in op de ouder-kindrelatie. Het is ook bekend dat leerlingen vaak tot diep in de nacht in blauw licht staren, omdat ze verwachten dat hun cijfer online komt. De ontwerpers van het systeem hadden dit niet voorzien. Ze dachten dat het een handige functionaliteit zou zijn, fijn voor de ouders en ook de school stelde geen vragen. We zijn het namelijk niet gewend om de consequenties van systemen te doordenken. We zijn op dat gebied amateurs.

Wanneer worden we wakker? Misschien wanneer de toegangspoortjes met gezichtsherkenning op school worden gekoppeld aan het lesrooster. De poortjes gaan pas open voor de leerling wanneer zijn dagrooster ten einde is. Spijbelen? Onmogelijk. ‘You can check out any time you like, but you can never leave.’ De school als Hotel California.

We kunnen ook onze auto’s herontwerpen. Auto’s zijn tenslotte steeds meer rijdende computers. Waarom nog flitspalen neerzetten als we met een sensor de snelheid van een auto live kunnen registreren vanuit het voertuig zelf? Een sensor verbonden met internetbankieren natuurlijk, waardoor je niet meer vanuit je achteruitkijkspiegel een flits ziet, maar een notificatie op je telefoon met de hoogte van het bedrag dat het Centraal Justitieel Incassobureau zojuist van je rekening heeft afgeschreven.

De ethische checklist

Bij ethiek denken we vaak aan veiligheid, privacy en duurzaamheid. Maar de echte uitdaging zit dieper: in de kleine, vaak onzichtbare manieren waarop technologie ons gedrag en onze relaties beïnvloedt. Juist die minder zichtbare kanten verdienen aandacht, want ze bepalen niet alleen wat technologie met ons doet, maar ook wat wij met elkaar doen. De volgende twaalf thema’s helpen om verborgen effecten van technologie beter te begrijpen: 

  • Privacy en gegevensbescherming. Wie ziet welke persoonlijke gegevens, en met welk doel? Welke gegevens kunnen we schrappen zonder functieverlies?
  • Toegankelijkheid en inclusiviteit. Is de technologie bruikbaar voor iedereen, ongeacht beperking of achtergrond? Welke groepen sluiten we uit – bewust of onbewust?
  • Autonomie en manipulatie. Helpt de toepassing bij bewuste keuzes of stuurt ze ongemerkt het gedrag? Welke handeling wordt de weg van de minste weerstand, en is dat wenselijk?
  • Verantwoordelijkheid en aansprakelijkheid. Wie is verantwoordelijk als er schade optreedt door fouten of verkeerde beslissingen? Wie heeft het mandaat om in te grijpen?
  • Duurzaamheid en milieu‑impact. Wat is de energie‑ en materiaalvoetafdruk van deze technologie en draagt die bij aan duurzame doelen? Wat is het laagste energiealternatief dat hetzelfde doel bereikt?
  • Bias en discriminatie. Zijn er maatregelen om vooroordelen in data en algoritmes te herkennen en te corrigeren? Welke groepen worden benadeeld of oververtegenwoordigd?
  • Transparantie en uitlegbaarheid. Is inzichtelijk hoe beslissingen tot stand komen en op basis van welke gegevens? Kan een leek begrijpen waarom het systeem tot deze uitkomst kwam?
  • Menselijk toezicht en controle. Blijft er ruimte voor menselijke correctie, en heeft die persoon voldoende kennis en tijd? Kan de mens feitelijk nog ingrijpen?
  • Sociaal welzijn en psychologische effecten. Wat doet de technologie met ons mentaal welzijn en onze sociale relaties? Worden gebruikers geholpen of juist vervreemd?
  • Culturele en sociale impact. Versterkt de technologie culturele diversiteit of leidt ze tot eenvormigheid? Welke waarden en gewoonten verdwijnen door het gebruik?
  • Internationale en juridische implicaties. Hoe gaat de toepassing om met verschillen in wetgeving en normen tussen landen? Welke regels gelden als de data landsgrenzen overschrijden?
  • Relaties tussen mensen Hoe verandert de technologie onze onderlinge omgang? Wie wint aan contact – en wie verliest nabijheid of vertrouwen?

Wie deze vragen stelt, ziet technologie niet als een neutraal hulpmiddel, maar als een kracht die onze keuzes en relaties mede vormt. De kunst is niet om elk risico te vermijden, maar om bewust te ontwerpen, met inzicht, waarden en gevoel voor menselijke maat.

 

Hans Hoornstra is oprichter van het Instituut Digitale Intelligentie en auteur van Het Ai van Columbus. Hij is initiatiefnemer van het Net Echt Congres over generatieve AI in het onderwijs.