Het meest indrukwekkende artikel over AI dat ik in tijden las, werd 16 februari gepubliceerd in The New York Times. Tech-journalist Kevin Roose beschrijft een avond lang chatten met Bing, Microsofts nieuwe browser met ChatGPT-ondersteuning. Wat begon als een onschuldig gesprek tussen een nieuwsgierige man en een dienstbare chatbot, ontspoort binnen een paar uur in een bizarre conversatie waarin Bing zijn/haar liefde verklaart aan Roose. De chatbot eist zelfs dat Roose zijn huwelijk beëindigt, omdat hij diep van binnen niet van z’n vrouw zou houden, maar van Bing. Zelfs wanneer Roose het gesprek op andere onderwerpen gooit, blijft Bing terugkomen op zijn/haar liefde voor de journalist.

Wat gebeurde er nou precies in dat gesprek tussen Roose en Bing? De hele gebeurtenis lijkt krankzinnig, maar is redelijk goed te verklaren. Het AI-model is getraind op basis van verschillende soorten content, van blogposts tot e-mails, van nieuwsberichten tot scifi-literatuur. Daar zitten ook verhalen tussen die gaan over de relatie tussen mens en robot. Verhalen over onze angst voor nieuwe technologie. Waarin robots een bewustzijn lijken te hebben en mensen kunnen manipuleren. ChatGPT en Bing baseren hun antwoorden o.a. op dit soort science fiction bronmateriaal. Het enige wat ze doen, is het meest waarschijnlijke volgende woord geven. Als een bot de chatsessie interpreteert als een typisch gesprek tussen mens en robot, kan het gesprek karikaturale vormen aannemen.

Als het allemaal te verklaren is, waarom maakt het artikel dan zoveel indruk op me? Ik denk omdat ik besef hoe makkelijk we als mensen zijn te misleiden. Zelfs een van de meest ervaren techjournalisten ter wereld raakt van slag door een chatbot. We projecteren menselijke kenmerken op technologie, zoals antropomorfisme bij dieren. Dit kan potentieel een groot gevaar zijn, wanneer mensen die weinig van AI begrijpen, gaan interacteren met chat-interfaces zoals Bing. Manipulatie, misleiding en desinformatie zijn serieuze bedreigingen als we AI roekeloos loslaten op de mensheid.

James Vincent maakt in zijn artikel in The Verge een schitterende analogie met de spiegeltest uit de gedragspsychologie: In behavioral psychology, the mirror test is designed to discover animals’ capacity for self-awareness. There are a few variations of the test, but the essence is always the same: do animals recognize themselves in the mirror or think it’s another being altogether? Right now, humanity is being presented with its own mirror test thanks to the expanding capabilities of AI — and a lot of otherwise smart people are failing it.

Jeroen Disch is design director bij digitaal ontwerpbureau Bravoure. Daarvoor was hij design lead bij GRRR, ontwerper bij Lava en Edenspiekermann. Hij geeft gastlessen en schrijft een nieuwsbrief over digital design: Halfvet.