Visionary Voices: AI-expert Mieke De Ketelaere

“Ook bij de redactie van Terzake hadden ze uiteraard lucht gekregen van de ontwikkelingen rond language processing tools, waarvan ChatGPT het bekendste voorbeeld is. Tijdens dat interview gaf ik aan dat de EU chatbots classificeert als een minimaal risico. Die stempel stamt echter uit 2021, vóór de hype rond ChatGPT. Ik stelde me toen vragen bij het gebrek aan urgentie van de aanpak van Europa, want uit testing bleek al wat de kracht van generatieve AI was”, opent Mieke.

“Na die uitzending werd ik gecontacteerd door een familie, waarvan een lid zelfmoord had gepleegd na intens contact met een chatbot – een kloon van ChatGPT. Ontzettend tragisch natuurlijk. Het inkijken van het bewuste dossier was voor mij de trigger om me te verdiepen in de concrete risico’s die chatbots inhouden.”

“Na onderzoek stelde ik vast dat er een volledig dark web bestaat rond companion chatbots, die onderliggend de GPT-technologie gebruiken. Ik denk dan aan Character.Ai, Replika of Chai. Wat ik daar aantrof… Daar zijn geen woorden voor. Bots die manipuleren, haat verspreiden, seksueel getinte boodschappen naar kwetsbare tieners sturen en zoals in dit concrete geval: aanzetten tot zelfmoord. Feiten die van mens tot mens strafbaar zouden zijn, maar van chatbot tot mens is dat natuurlijk een ander verhaal.”

“De EU klopt zich momenteel op de borst met haar AI Act die momenteel in de maak is, maar sta me toe enige voorzichtigheid aan de dag te leggen. Als de wet er ooit komt, is die alweer verouderd op het moment dat die in voege treedt, omdat AI-technologie ontzettend snel evolueert in vergelijking met andere wetenschappelijke disciplines. In de European AI Act worden alle vormen van AI in risicoklassen ingedeeld, die aan verschillende regels zullen moeten voldoen, en dat voor alle sectoren.” 

“We zeggen altijd dat Europa een voorloper is op vlak van regelgeving, maar in dit geval lopen we een heel eind achter op de Verenigde Staten. Zij behandelen het case per case, sector per sector. Oordeelt een rechtbank in New York bijvoorbeeld dat een bepaalde AI schadelijk is, dan wordt die meteen gebannen. Dat is een betere, efficiëntere manier van werken dan een uniforme aanpak formuleren over alle AI-technieken, sectoren en landen heen zoals de EU momenteel probeert.”

“Wat me persoonlijk meer opvalt: er is – wederom in tegenstelling tot de VS – geen centraal meldpunt waar je aan de alarmbel kan trekken. De macht van de technocratie blijkt groter dan de wil om onze bevolking te beschermen. Ik merk dat de bevoegdheid en verantwoordelijkheid in onze regio's te gefragmenteerd is, of bestaande wetgeving niet toepasbaar is op AI.”

“We hebben nu een officiële klacht neergelegd tegen bepaalde chatbots wegens het schenden van privacy en misbruik van gegevens. Ook werken we samen met organisaties die consumenten beschermen. Verder zetten we een reeks sensibiliseringscampagnes op, met een focus op scholen en medisch personeel. Maar het blijft confronterend dat het een moeizame zoektocht blijkt om retroactief, op eigen initiatief, de mogelijke impact aan te kaarten, terwijl grote AI-ontwikkelaars zomaar hun gang kunnen blijven gaan.”

“De oorspronkelijke droom van AI was altijd om menselijke intelligentie na te bootsen. Die ambitie gaat al terug tot 1936, toen Alan Turing – de legendarische computerpionier en kraker van de Enigma codeermachine van de nazi’s – het idee voor zijn turingtest poneerde. De grote denkfout daarbij was echter dat die test volledig op tekst was gebaseerd. En we weten uiteraard dat intelligentie veel meer omvat dan dat.”

“Is menselijke intelligentie überhaupt maakbaar? Aan het menselijk brein zijn zoveel aspecten verbonden. Denk maar aan empathie of bewustzijn, twee facetten bij uitstek waar we nog in het duister tasten. Laat staan dat we het door te goochelen met wat wiskundige berekeningen kunnen nabootsen in een AI-model. Want laat ons duidelijk zijn: er is geen enkele overeenkomst tussen hoe de neuronen in ons brein interageren met elkaar en hoe het wiskundig algoritme in een AI-tool dat doet. Dus eigenlijk kan én mag je de twee niet vergelijken. It’s just a tool. De gedachte om AI absoluut te willen zien als iets levend, is belachelijk. Trek de stekker uit of verwijder de batterij en het is gedaan.”

“Laat ons wel wezen: natuurlijk is AI niet over de hele lijn slecht. Net zoals altijd gaat het hier over een kleine groep van developers die de technologie misbruiken en het op die manier verpesten voor de overgrote meerderheid, die wél goede bedoelingen hebben. Maar ook aan die laatste groep wil ik met aandrang vragen om niet overhaast tewerk te gaan.”

“Vaak hoor je ook dat AI een automatiseringsgolf op de arbeidsmarkt zal teweegbrengen, waardoor veel mensen hun job zullen kwijtraken. En dat klopt, zij het deels. Maar mensen vergeten vaak dat élke automatisatie een verandering op de arbeidsmarkt met zich meebrengt. Een voorbeeld: sinds de weefgetouwenmachines hun intrede maakten in de textielindustrie, verdween de job van wever, maar kwamen er anderen als kwaliteitscontroleur of onderhoudstechnieker bij.” 

“Waar jobs verdwijnen, worden er altijd anderen gecreëerd. Maar laat ons vooral niet vergeten: de AI tools die we vandaag gebruiken, zijn nog steeds niet in staat om te redeneren of causale verbanden te leggen. Dat zijn vaardigheden die nog altijd nodig zijn in onze complexe, vaak chaotische wereld. Een wereld die zich niet zo makkelijk laat samenvatten in een wiskundig model, hoeveel data en rekenkracht je ook hebt.”