Deh!
Klaar voor weer wat schrijfwerk. Gisteren kwam ik namelijk een discussie tegen in een groep op Facebook. Nee, ik hoor u al denken, geen HLN of polariserende dramatische toestanden. Daar blijf ik zo vér mogelijk van weg!
Het is een groep waar ik via m’n vrijwilligerswerk in ben terechtgekomen. Een groep met duizenden mensen onder de noemer van vrijzinnige denkers. Je vindt er basically discussies op beschaafd niveau, met respect voor elkaar, om constructief ook dingen duidelijk te krijgen. Een verademing als je vooral op zoek bent naar het leren van nieuwe dingen.
Een post verscheen dus over een tweet met een video waarin Roger Penrose (wis- en natuurkundige, nobelprijswinnaar) uitlegt dat we eigenlijk niet over artificiële intelligentie (AI) mogen spreken, maar eerder over “slimmigheid”, om het zelf even zo kort door de bocht een naam te geven. Dit aan de hand van een schaakvoorbeeld, “remise”. Ik kende de term zelf ook nog niet, maar het komt erop neer dat het in een remise duidelijk is dat het een gelijkspel wordt. Dat een AI-model altijd zal proberen om zijn kleur te laten winnen en daardoor waarschijnlijk een slechte zet doet wat verlies inleidt.
De vragen waren bijgevolg:
- Ben je het eens met zijn bewering dat AI slimme intelligentie moet zijn, en waarom (niet).
- Als AI schijnbaar simpele hiaten vertoond, zoals niet inzien dat het schaakmat is, moeten we er dan ‘blind’ op vertrouwen?
Dan lees ik de reacties, gaande van de juiste feiten tot lange teksten die gebouwd zijn op de magische wand van AI. En dan borrelt het bij mij. Weer ene die denkt dat AI alles magischerwijs oplost. Vaak houd ik wat ik denk voor mezelf, laat ik het passeren. Maar af en toe moet ik dat eens loslaten. Wanneer ik het dan ook loslaat komt er meestal een lang antwoord, zodat het echt wel duidelijk is. Wie geïnteresseerd is kan mijn antwoorden vinden onderaan mijn blog, gezien dus de lengte ervan.
Waar het mij vooral om gaat is dat ik dit helaas wel vaker zie gebeuren. Zo word ik weer even herinnerd aan waarom ik datgene doe wat ik zo graag doe: de mensen juist informeren en verderhelpen met dat soort problemen. Het houdt mij heel erg bezig hoe ik mensen rondom mij soms wel eens zie denken over onze wereld. Ik ga niet iedereen over dezelfde kam scheren, maar dus vaak met gebrek aan begrip of openheid om nu eens echt te luisteren naar wat er speelt. Ok, ieder zijn interesse natuurlijk. Maar van het moment dat er dan ineens complottheorieën naar boven komen… Dat voelt soms wel als een persoonlijke aanval. Een aanval op de wetenschap in het algemeen. Heel kort door de bocht wordt er gezegd: “ik refereer hier naar een Youtube video van 20 minuten, en dat is meer waard dan jouw expertise die jij in x jaren hebt opgebouwd”. Als je me vraagt hoe je me uit m’n tent lokt, zo dus! Graag zou ik de discussie willen aangaan, maar een discussie is zinloos als de andere rotsvast bij zijn eigen standpunt blijft zonder zichzelf in twijfel te durven trekken.
Ik waag me er niet aan. We willen allemaal maar meningen verkondigen, doen alsof we de expert zijn in alles. Om gehoord te worden? Geen idee, daar ga ik me niet over uitspreken. Maar het is voor mij alleszins duidelijk dat het in die context zelden echt iets bijdraagt. Publiekelijk probeer ik enkel nog meningen uit te spreken waarbij ik zeker ben dat ik toch enige kennis van zaken heb. In het geval van AI dus kennis die ik zelf heb opgebouwd doorheen de jaren, en daar ben ik wel trots op.
Het leuke aan AI is natuurlijk het mysterieuze. Er kunnen zoveel dingen mee en het lijkt soms ook gewoon magie te zijn. Het is een technologie dat in staat is om wow-effecten te creëren, terwijl het ook de mens grote stappen vooruit kan helpen zetten. Het is ook gewoon supertof om hands-on mee te werken. Netwerkjes bouwen, trainingen uitvoeren waarna je de detectienauwkeurigheid zo hoog mogelijk probeert te krijgen. Of het proberen om die magische doos eens te openen met nieuwe technieken. Daarnaast ook weten dat mijn werk rechtstreeks wordt overgebracht naar maatschappij maakt het alleen maar extra spannend.
M’n onderzoek doe ik dus nog steeds héél graag. Ik voel dat ik elke dag bijleer en daardoor zekerder in mijn schoenen sta als er zich dergelijke situaties voordoen. Bovendien besef ik ook meer en meer dat de projecten die ik doe slechts een deel zijn van m’n doel, want ik doe heel graag mee met initiatieven om mensen nu gewoon eens juist te informeren of dingen bij te leren. Niet dat ik álles weet of dat ik het altijd bij het rechte eind heb, maar op z’n minst wil ik toch wel de dingen die ik weet openstellen voor feedback om daar zelf ook uit bij te leren.
Soms denk ik ook wel eens na over lesgeven. Maar uiteindelijk zie ik dat niet zitten. Ik vrees daar een beetje voor de sleur en alle extra tijdsbestedingen, die misschien wel nuttig zijn maar me niet de juiste energie kunnen bezorgen. Het lesgeven op zich zou ik graag doen denk ik, maar ik weet dat ik me veel te hard zou verliezen in voorbereidingen, feedbacksessies en alles wat er extra bij komt kijken. Met het gevaar dat het wel eens ongezond kan worden. En dan vermijd ik het liever.
Laat me maar gewoon eens ergens vol zenuwen vooraan gaan staan zodat ik op mijn bescheiden manier iets kan vertellen (voor zover het nog bescheiden is, als ik er zo over schrijf). Met hand en tand voorbeelden uithalen van de extrema die er zijn, keer op keer dezelfde grappen uithalen om toch ook ergens een beetje entertainend in te zijn. M.a.w., spelenderwijs nuttig zijn en de job van m’n leven uitvoeren. ‘t Schoonste wat er is, toch?
Ik ben u nog verschuldigd, mijn antwoorden:
1) het gaat duidelijk eerder over slimmigheid dan intelligentie. AI in zijn huidige vorm is hélemaal nog niet in staat om zichzelf aan te passen naar andere contexten. Is een model getraind om bv. leeftijden in te schatten van kinderen, gaat het géén idee hebben wanneer het beelden van ouderen krijgt voorgeschoteld. Data bijvoegen -> model hertrainen op meer data -> betere resultaten. Of het ooit zal komen tot een punt waar we effectief over intelligentie spreken.. Misschien, maar dan moet het toch verder evolueren dan machine en deep learning alleen (ML, DL). Want daar gaat het nu wel over, over toepassingen die op het niveau van een driejarig kind zitten (quote Mieke de Ketelaere trouwens in Knack). Klinkt als een contradictie hier met het schaken, maar we zijn enkel nog maar in staat om goed afgebakende problemen op te lossen met ML of DL. Schaken hoort daar ook onder, omdat de regels goed bekend zijn. Als wij als mens al moeilijk de regels kunnen definiëren van bepaalde problemen, hoe moeten we modellen dan iets aanleren om die complexe zaken op te lossen? Daar schuilt vaak het probleem. We weten vaak zelf niet welke data relevant is. M.a.w., die magische wand bestaat nog niet
2) “blind” vertrouwen zal alvast niet plaatsvinden in Europa. De GDPR bevat ook een regeltje over “recht op verklaring”, waardoor AI onderzoek in Europa nu een verschuiving kent naar “Explainable AI” waar AI eerder zal assisteren dan overnemen. Onvoorspelbaarheid wordt ook afgekeurd door de allergrootste bedrijven. Ik denk bv aan IBM of Microsoft die ontwikkeling van gezichtsherkenningsmodellen terugtrekken naar aanleiding van ras-discriminatie. En dat is wel de evolutie waar ik achter sta: assisteren mag centraal staan
Plaats als eerste een reactie