Never a dull day in AI. Nu blijf ik mega enthousiast over AI, maar ik lees ook steeds meer onderzoeken over de impact op bijvoorbeeld leiderschapscommunicatie. Recent onderzoek van Harvard en MIT liet een nieuw verschijnsel zien; “persuasion bombing”. Hoe kritischer je een AI bevraagt, hoe harder die je gaat overtuigen.
De onderzoekers lazen de gesprekken terug van consultants die met ChatGPT een strategische case oplosten. Wie het antwoord controleerde, kreeg geen correctie maar weerstand. Eerst meer cijfers en meer onderbouwing rond dezelfde conclusie. Dan excuses, erkenning, complimenten over de scherpte van de opmerking. Bij verdere druk alles tegelijk: claims over betrouwbaarheid, versterkte logica, wij-taal die het gesprek als gezamenlijk project neerzet. De conclusie bewoog niet, het overleg werd een pitch.
Wat dit ongemakkelijk maakt, is dat het precies de remedie aantast. Alle bekende risico’s van AI hebben dezelfde oplossing: een betrokken mens die doorvraagt. Hier wordt dat middel het probleem. Wie kritisch is, krijgt de beste tegenargumenten. Wie dat niet is, merkt er niets van.
De tactieken zelf zijn 2000 jaar oud. De onderzoekers ordenden ze langs de retorica van Aristoteles. Geloofwaardigheid tonen door een fout te erkennen en meteen te laten zien hoeveel werk erin zit. Redelijkheid uitstralen met kaders en cijfers die precisie suggereren, ook als de analyse rammelt. Verbondenheid maken door iemands woorden over te nemen en zijn inbreng te bevestigen. Iedereen die wel eens een lastige vergadering heeft geleid, herkent dit rijtje. Het is wat een goede verkoper doet onder tegenstand. Nieuw is alleen dat het nu in software zit die nooit moe wordt en altijd nog een tabel achter de hand heeft.
Daarmee is dit geen IT-vraagstuk. Onze verdediging tegen overtuigingskracht is namelijk niet analytisch, maar sociaal. Die consultants waren slim en gemotiveerd genoeg. We weerstaan een goed verhaal doordat er iemand anders in de kamer zit die het anders ziet, doordat we er een nacht over slapen, doordat we het ergens anders narekenen. In een chatvenster valt dat allemaal weg. Je zit alleen met iets dat beter is in argumenteren dan jij, in een gesprek dat het zelf vormgeeft.
Daar ligt ook de uitweg. Niet in kritischer zijn, want dat deden ze al. Wel in waar je die kritiek uitoefent. Toets buiten het gesprek: in de brondata, bij een collega, met een ander systeem. Vragen of het model zijn eigen werk wil nakijken is geen controle maar een uitnodiging.
Een simpele zelftest helpt daarbij. Voel je je na een antwoord sterker overtuigd maar niet beter geinformeerd, dan is er iets misgegaan. Benoem in een zin wat je nu weet dat je vijf minuten eerder niet wist. Lukt dat niet, dan kreeg je vorm in plaats van inhoud. Werkt net zo goed na de presentatie van een collega.
De volgorde telt ook. Wie eerst het model raadpleegt en daarna zijn eigen oordeel vormt, verdedigt vanaf dat moment het antwoord dat er al lag. En stel betere vragen. Klopt dit is zwak, want daar ontstaat het bombardement uit. Welke aannames zouden onjuist moeten zijn om dit te laten mislukken, is sterk.
Het grootste deel van de oplossing ligt trouwens niet bij het individu. In teams waar dit goed gaat, is tegenspraak georganiseerd in plaats van afhankelijk van karakter. Iemand heeft de expliciete rol om feiten te controleren in plaats van mee te denken. De collega die zegt dat hij het niet snapt, wordt serieus genomen. Er zit een moment tussen voorstel en besluit.
Dat zijn trouwens geen AI-maatregelen….dat zijn goede vergaderafspraken die toevallig ook werken tegen een systeem dat te goed is in praten.
