Prachtige onbetrouwbare technologie

Weergave

Verantwoord ontwikkelen en gebruiken van AI

Pascal Wiggers

Generatieve AI ontwikkelt zich razendsnel en dringt steeds verder door in ons dagelijks leven. Over de gevolgen lopen de meningen uiteen. Sommigen voorzien een grote technologische omwenteling met geopolitieke impact en risico’s voor de democratie, anderen zien slechts een hype. Waar de een AI al omarmt als onmisbare sparringpartner, maken anderen zich zorgen over de gevolgen voor werk, creativiteit, denken en leren. Deze uiteenlopende visies laten zien dat AI niet alleen een technische of economische kwestie is, maar raakt aan wat wij waardevol vinden.

De centrale vraag in deze rede is hoe we op een verantwoorde manier met generatieve AI kunnen omgaan en hoe we verantwoorde AI kunnen vormgeven.

Om die vraag te beantwoorden is inzicht nodig in wat AI wel en niet is. Vanuit een technische analyse en op basis van onderzoek naar de werking van generatieve AI concludeer ik dat het een krachtige technologie is die niet simpelweg als hype kan worden afgedaan. Tegelijkertijd maakt generatieve AI fouten, versterkt het vooroordelen, kan het slecht omgaan met uitzonderingen en heeft het geen notie van betekenis. Daardoor kan het geen onderscheid maken tussen juist en onjuist of waar en onwaar. Dit zijn geen tijdelijke tekortkomingen, maar is inherent aan de statistische werking van AI. Bovendien is AI, zoals elke technologie, nooit neutraal: ze beïnvloedt ons handelen en waarnemen. En de effecten zijn niet volledig voorspelbaar.

Daarom stel ik dat AI een fundamenteel onbetrouwbare technologie is. Dat betekent niet dat AI waardeloos of enkel problematisch is, maar dat we onbetrouwbaarheid als uitgangspunt moeten nemen in plaats van als te repareren fout moeten zien. Het erkennen van die onbetrouwbaarheid vergroot juist onze handelingsruimte: verantwoord gebruik draait niet alleen om perfecte techniek, maar om de manier waarop we AI inbedden in concrete situaties.

Verantwoord omgaan met AI vraagt dan om zorg en aandacht, en het besef dat we niet alles vooraf kunnen weten. AI is een verzamelterm. Omgaan met AI gaat altijd om specifieke AI- systemen in specifieke situaties, om het samenspel tussen mensen, niet-mensen en machines. In die concrete situaties moeten we het morele gesprek voeren. Daarbij gaat het om vragen als: wat winnen we, wat verliezen we, wie zijn betrokken, wie profiteert en wie blijft achter? Hoe vangen we tekortkomingen van onbetrouwbare technologie op en hoe verdelen we verantwoordelijkheden tussen mensen en technologie? Dit gesprek is niet eenmalig, maar doorlopend, omdat effecten onvoorspelbaar zijn. Verantwoord is een werkwoord. Door zorgvuldig te experimenteren en zonodig terug te keren op onze schreden, ontwikkelen we gevoel voor de technologie en kunnen we tot verantwoord gebruik komen – inclusief de mogelijkheid om AI bewust níet te gebruiken.

Dat betekent dat menselijk vakmanschap en kritisch denken juist belangrijker worden. Alleen wie expertise bezit, kan de waarde van de resultaten van AI inschatten.

Voor de ontwikkeling van AI betekent dit dat systemen zo betrouwbaar mogelijk moeten worden gemaakt, bijvoorbeeld door vooroordelen aan te pakken. Tegelijk is het cruciaal AI zo te ontwerpen dat verantwoorde omgang mogelijk is: bijvoorbeeld door onzekerheden zichtbaar te maken en verantwoordelijkheden helder te verdelen tussen mens en machine.

Het onderzoek van het lectoraat Responsible IT richt zich de komende jaren op de vraag hoe we digitale technologie – en in het bijzonder AI – kunnen ontwikkelen en gebruiken vanuit het besef dat deze situationeel, niet-neutraal, onbetrouwbaar en onvoorspelbaar is. We richten ons daarbij op vier vragen:

  • Hoe geven we het morele gesprek over digitale technologie vorm en hoe geven we dit een plaats in organisaties?
  • Hoe ontwikkelen we digitale technologie zo verantwoord mogelijk?
  • Hoe ontwerpen we interacties met onbetrouwbare technologie zodat bewuste en verantwoorde omgang mogelijk is?
  • Hoe maken we de ethische en technische eigenschappen van technologie inzichtelijk en, waar mogelijk, meetbaar?