Tussen patroon en persoon: een rede(n) voor symbiotische (artificiële) intelligentie

Tussen patroon en persoon Jeroen Linssen een rede(n) voor symbiotische (artificiële) intelligentie Inhoudsopgave Voorwoord: Denken in patronen 4 1 Introductie: Over AI 7 1.1 DefinitiesvanAI ................................... 7 1.2 DoorbrakeninAI................................... 13 1.3 DiscussiesoverAI .................................. 16 2 Uitdagingen: Het belang van wederzijds begrip 19 2.1 De huidige hype en schaduwzijdes van AI . . . . . . . . . . . . . . . . . . . . . 19 2.2 Van hype naar hoop: AI bij Ambient Intelligence . . . . . . . . . . . . . . . . . 22 2.2.1 Hetprocescentraal.............................. 22 2.2.2 Hetbegripcentraal.............................. 25 3 Toekomst: Grenzen vervagen 29 3.1 Oneindige technologische groei? . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 3.2 DehorizonvanAI .................................. 31 3.3 Dehorizonvanmensen................................ 35 4 Actie: Samen verantwoordelijk 38 4.1 Terug naar het nu: what will (A)I do? . . . . . . . . . . . . . . . . . . . . . . . 38 4.1.1 Aanbevelingen over AI . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38 4.1.2 Het lectoraat in actie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 4.1.3 Sameninactie ................................ 41 4.2 Huiswerk:levenisleren ............................... 41 4.2.1 Geletterdheid verbeteren . . . . . . . . . . . . . . . . . . . . . . . . . . . 42 4.2.2 Methodologisch te werk . . . . . . . . . . . . . . . . . . . . . . . . . . . 42 4.2.3 Kritisch nadenken over AI . . . . . . . . . . . . . . . . . . . . . . . . . . 43 4.2.4 Derodedraad ................................ 43 Nawoord 45 Dankwoord ......................................... 45 Reflectie........................................... 46 Media-aanraders ...................................... 48 Over deze rede 51 OverJeroenLinssen .................................... 51 2 Openscience ........................................ 52 Referenties 53 Copyright.......................................... 59 3 Voorwoord: Denken in patronen Dit is de lectorale rede van Jeroen Linssen, lector Symbiotic AI bij het lectoraat Ambient Intelligence van Hogeschool Saxion. De volledige titel van deze rede luidt als volgt. Tussen patroon en persoon: een rede(n) voor symbiotische (artificiële) intelligentie Deze rede is bedoeld om als website te worden gelezen. Voor het gemak van de lezer zijn ook een pdf-versie en een epub-versie (voor e-readers) beschikbaar. 4 ‘It is possible I had some presentiment of my future.’ (Wolfe, 1998) Patronen zijn overal. In de natuur, de vormen van planten en dieren, in onze leefomgeving, de manieren waarop wij onze wereld inrichten. In de tijd, de seizoenen, de etmalen. In alle talen die we spreken, lezen en schrijven. In abstractere zaken zoals gevoelens, metaforen en verhalen.1Patronen geven aan dat er een bepaalde regelmaat in iets zit, iets dat voorspelbaar 1Ook deze rede valt vaak terug op bepaalde patronen en metaforen, in de hoop dat bepaalde concepten op die manier helderder worden. In metaforen schuilt echter ook het risico dat patronen op een onbedoelde manier geïnterpreteerd worden. 5 is. Deze volgordes maken dat alles bestaat in samenhang en al dan niet stabiel evenwicht. Er zit een logica in de bouwstenen van onze wereld. Wij, als mensen, vormen ieder een wereldbeeld op basis van deze patronen. Dankzij onze intelligentie zijn wij in staat bepaalde taken uit te voeren, daarmee nieuwe patronen te maken, en hiervan te leren. Intelligentie is echter niet alleen aan mensen voorbehouden: er zijn tal van organismen die intelligent gedrag vertonen. Maar is het dan ook mogelijk om systemen te maken die patronen kunnen herkennen en genereren? Jazeker. Dit is precies waar het vakgebied kunstmatige of artificiële intelligentie (AI) om draait: het onderzoeken en bouwen van intelligente systemen. De rode draad van deze rede is symbiose: het samen leven van twee levensvormen. Mensen en technologie zijn onlosmakelijk verbonden: dankzij technologie heeft de mensheid zich kunnen ontwikkelen. Maar technologie heeft omgekeerd ook invloed op de mensheid. Mijn boodschap is dat wij, als mensen, verantwoorder en duurzamer met AI om moeten gaan door beter te leren samenleven met deze technologie. Ik bedoel symbiose hier expliciet als mutualistisch: zowel menselijke als artificiële intelligentie zou baat moeten hebben bij mijn voorgestelde samenwerking tussen beiden. We willen als mensen betere, slimmere systemen die begrijpen wat wij doen en nodig hebben, voor een verbetering van onze kwaliteit van leven. Dit vereist dat deze systemen de juiste patronen kunnen herkennen en nieuwe patronen kunnen maken die aansluiten op onze verwachtingen. Andersom hebben wij de verantwoordelijkheid om zélf deze systemen ook te snappen, zodat wij begrijpen wat de systemen doen en nodig hebben. We streven naar wederzijds begrip en hybride intelligentie. Alleen als we deze keerzijden van dezelfde medaille voldoende aandacht geven, zullen we komen tot een werkelijke symbiose tussen menselijke en artificiële intelligentie. In deze rede leg ik uit hoe we tot zulke symbiotische (artificiële) intelligentie kunnen komen en wat we binnen ons lectoraat Ambient Intelligence hieraan onderzoeken. Ter introductie geeft het eerste hoofdstuk in deze rede een blik op de ontwikkeling van AI, waarna de rede over gaat naar huidige uitdagingen, de (mogelijke) toekomst van AI, en een oproep tot actie. Ieder hoofdstuk begint met een samenvatting van vijf zinnen in klare taal, zodat jij, de lezer, weet wat er komen gaat. Mijn streven was om de tekst zo helder mogelijk op te schrijven, zodat iedereen er zoveel mogelijk van kan leren. Ik hoop dat deze rede bijdraagt aan een beter begrip van AI, bewustwording van de (on)mogelijkheden van deze technologie, en jou aan het denken zet. We moeten daarvoor samen nieuwe patronen maken en daarvoor vele rode draden spinnen. De rode draad van deze rede is slechts één lijn in dit geheel, en ook in deze tekst blijkt dat veel andere draden verweven zijn met de hoofdlijn.2Ik verwacht niet dat AI op zichzelf alle uitdagingen en transities die ons nog te wachten staan, zal oplossen. Dit wordt een taak die samenwerking eist tussen alle vakgebieden en sectoren. Zoals vaker wordt gezegd: de beste manier om de toekomst te voorspellen, is door deze te maken.3Laten we dat samen doen. 2Ik kan me er niet van weerhouden voetnoten met extra gedachten te tikken voor deze extra draden. 3De oorsprong van deze uitspraak is niet compleet te herleiden, maar waarschijnlijk was het Dennis Gabor. 6 1 Introductie: Over AI Samenvatting AI is geen magie: het is een vakgebied dat zich richt op het ontwikkelen en onderzoeken van intelligente systemen. Hiervan zijn veel verschillende vormen, zoals zoekmachines, beeldherkenning en het genereren van teksten. AI is gebouwd op basis van algoritmes: instructies die computers kunnen uitvoeren. In de loop der jaren zijn veel doorbraken geweest in dit veld en gaat de discussie ook over de effecten van deze technologie. In deze rede licht ik een aantal uitdagingen toe die vandaag de dag en in de nabije toekomst aangepakt moeten worden. Er zijn tal van manieren om een rede als deze te beginnen. Minstens zoveel als het aantal redenen om met Artificiële Intelligentie (AI) bezig te zijn. AI is een technologie die toegepast kan worden om processen te verbeteren, van zorg tot industrie en van energietransitie tot sociaal werk. Het kan gebruikt worden om betere diagnoses te stellen voor ziektes (Kumar e.a., 2023), automatisch te regelen hoe stroomvoorzieningen optimaal draaien (Shi e.a., 2020), en inzicht geven in maatschappelijke problemen (Nishant e.a., 2020).1AI kan ook gebruikt worden om te onderzoeken wat intelligentie nu precies is, bijvoorbeeld om beter te begrijpen hoe ‘leren’ werkt (Modha e.a., 2011). Iedereen zal een eigen voorstelling kunnen maken van wat AI wel of niet is. Mijn doel bij deze rede is het verbeteren van het begrip van iedereen over AI en uitleggen hoe ons lectoraat Ambient Intelligence bijdraagt aan een verantwoorde, duurzame inzet en ontwikkeling van AI. Voordat ik in ga op wat we nu zouden moeten doen met AI, belicht ik in dit hoofdstuk eerst hoe we tot hier gekomen zijn en wat volgens mij belangrijke lessen zijn, door te praten over definities van, doorbraken in en discussies over AI.2 Daarna gaat deze rede verder met uitdagingen van vandaag de dag (Hoofdstuk 2, reflectie), de mogelijke toekomst van AI (Hoofdstuk 3, speculatie) om tenslotte af te sluiten met een oproep tot actie (Hoofdstuk 4, activatie). 1.1 Definities van AI Als vakgebied bestaat AI officieus sinds 1956, toen de Dartmouth Summer Research Project on Artificial Intelligence in de zomer van dat jaar gehouden werd op Dartmouth 1Hierom wordt AI tegenwoordig bestempeld als key enabling technology (KET). Andere KETs zijn bijvoorbeeld fotonica, nanotechnologie, robotica en quantum computing. 2Ook hiervoor geldt het patroon dat, wie niet leert van de geschiedenis, gedoemd is deze te herhalen. 7 College in de Verenigde Staten.3Natuurlijk waren daarvoor al allerlei pogingen gedaan om intelligentie te begrijpen en te automatiseren, of dat nu in fictieve werken was (Cave & Dihal, 2019) of in wetenschappelijke (Russell & Norvig, 2016). Alan Turing wordt bijvoorbeeld als één van de grondleggers genoemd, met zijn Turing-machine die alle mogelijke berekeningen kan uitvoeren.4Voordat ik Turings gedachten belicht, terug naar het moment waarop AI als dusdanig benoemd werd: het Summer Research Project in 1956. De insteek hiervan was als volgt:5 ‘Wij stellen voor dat er in de zomer van 1956 een 2-maanden durende studie van 10 personen naar kunstmatige intelligentie wordt uitgevoerd aan Dartmouth College in Hanover, New Hampshire. De studie moet worden uitgevoerd op basis van de veronderstelling dat elk aspect van leren of een ander kenmerk van intelligentie in principe zo nauwkeurig kan worden beschreven dat een machine het kan simuleren. Er zal een poging worden gedaan om te ontdekken hoe machines taal kunnen gebruiken, abstracties en concepten kunnen vormen, problemen kunnen oplossen die nu alleen voor mensen zijn weggelegd, en zichzelf kunnen verbeteren. Wij denken dat er een significante vooruitgang kan worden geboekt in een of meer van deze problemen als een zorgvuldig geselecteerde groep wetenschappers er een zomer lang samen aan werkt.’ (McCarthy e.a., 2006) Aan ambitie geen gebrek, zo erkenden de betrokkenen ook in een terugblik hierop, vijftig jaar later (Moor, 2006). De kern van AI blijkt hieruit wel duidelijk, namelijk het nabootsen of simuleren van intelligentie. John McCarthy, één van de oprichters van de zomerworkshop, definieerde AI simpelweg als ‘de wetenschap en techniek van het maken van intelligente machines’. Dit is een brede, inclusieve definitie die wat mij betreft nog steeds het beste werkt om het hele vakgebied samen te vatten. Een andere blik op AI is dat het draait om patroonherkenning en daarmee ook het genereren van patronen. In de jaren na Dartmouth heeft AI namelijk vele ontwikkelingen doorgemaakt (Buchanan, 2005). Allerlei onderzoeksgebieden zijn sindsdien ontstaan, zoals robotica, expertsystemen, beeldherkenning, redeneersystemen en zelflerende systemen (Russell & Norvig, 2016). AI is daarom een parapluterm, wat ook af te zien valt aan de letters A en I. 3Met deze introductie doe ik veel onderzoek en innovaties binnen AI te kort (zoals genetische algoritmen (Mitchell, 1998), agent-based modellen (Macal, 2016) en Bayesiaanse netwerken (Heckerman, 1998)), maar anders wordt deze sectie te lang. Een uitspraak die mij is bijgebleven van mijn studiejaren is dat het lezen van het boek Gödel, Escher, Bach van Daniel Hofstadter in theorie een propedeusediploma in AI zou moeten opleveren (Hofstadter, 1999). Ook van mijn kant is dit een aanrader, nog steeds. 4Turing leidde een bijzonder maar ook tragisch leven. Hij legde het grondwerk voor het vakgebied van theoretische informatica en hielp de Britten de Enigma-code kraken tijdens de Tweede Wereldoorlog. Vanwege zijn homoseksuele geaardheid werd hij berecht en stierf op 41-jarige leeftijd door cyanide-vergiftiging, al dan niet zelf toegebracht (Copeland, 2024a). 5Vertaald uit het Engels. 8 Figuur 1.1: AI als parapluterm Een cynische definitie van AI zou ook kunnen zijn: intelligente technologie waar we nu nog geen andere naam voor hebben. Het is namelijk zo dat sommige technieken doorontwikkeld worden en een eigen naam krijgen. Soms wordt dan gezegd dat deze techniek AI is, waarbij het gevaar bestaat dat er geen andere vormen van AI zouden bestaan. Een recent voorbeeld is ChatGPT, dat gebruik maakt van AI-technologie, maar slechts één vorm hiervan is.6Andere voorbeelden zijn navigatiesystemen (routeplanning m.b.v. Google Maps, TomTom), spraakherkenning (spraak naar tekst in schrijfprogramma’s, Apple Siri), zoekmachines (Bing, DuckDuckGo), zelfrijdende auto’s, en virtuele karakters in computergames. Tig vormen van AI, en veel sub-vakgebieden waar de meeste mensen zich niet bewust van zijn. Ik grijp de kans niet aan om een complete uitleg te geven van alle mogelijke vormen van AI, 6Taalmodellen op basis van transformers die weer voortkomen uit deep learning, meer hierover in het volgende hoofdstuk. 9 vervolgens een plaatje met alleen ruis en een beschrijving te geven aan zo’n model (Ling Yang e.a., 2023). De impact van deze twee technologieën is gebleken op veel vlakken en behandel ik in het volgende hoofdstuk. Duidelijk mag zijn dat AI nu al een lange historie heeft en er nog veel te gebeuren staat. 1.3 Discussies over AI Wat de doorbraken van AI ons in ieder geval laten zien, is dat er vaak een duidelijke verwachting is van wat AI wel en niet kan. Dat kan heel fundamenteel en theoretisch zijn, zoals de vraag of AI bewustzijn kan hebben. Het kan ook heel praktisch zijn, namelijk of AI een bepaalde taak kan uitvoeren. Wat in beide gevallen vaststaat, is dat verwachtingen vaak hooggespannen zijn. Dat blijkt uit de AI winters die eerder plaatsvonden: men verwachtte veel van AI, en ook op korte termijn. Dit is een typisch gegeven voor nieuwe technologie, wat beschreven kan worden met de hype cycle, bekend dankzij onderzoeksen adviesbureau Gartner.20 Het principe hiervan is het beste uit te leggen met deze figuur: 20Zie de uitleg van deze methode. 16 Figuur 1.5: De hype-cycle van nieuwe technologie Voor nieuwe technologieën kunnen vijf fases beschreven worden:21 1. Technologie-trigger: de eerste verhalen over een technologie doen de ronde. 2. Hoogtepunt van opgeblazen verwachtingen: men raakt meer dan enthousiast, de hype is op diens hoogtepunt. 3. Trog van desillusie: de technologie lost de verwachtingen niet in, wat blijkt uit falende implementaties en experimenten. 4. Helling van verlichting: bepaalde implementaties werken toch en worden doorontwikkeld. 5. Plateau van productiviteit: adoptie van de technologie door het grote publiek. Gartner probeert met invullingen van deze hype cycle inzicht te bieden in welke technologieën op welke plek in de curve zitten. Zo ook voor AI, en alle afzonderlijke technieken in dit veld. Volgens recente voorspellingen van Gartner zit bijvoorbeeld Generative AI (de taalmodellen 21Vertaald uit het Engels. 17 en plaatjesgeneratoren) al voorbij het hoogtepunte van fase twee (Gartner, Inc., 21 August 2024). Een inzicht dat belangrijk is bij dergelijke voorspellingen komt van de hand van Roy Amara, onderzoeker bij verschillende Amerikaanse universiteiten en futuroloog.22 De Wet van Amara: We hebben de neiging om het effect van een technologie op de korte termijn te overschatten en het effect op de lange termijn te onderschatten. Het plateau van productiviteit kan uiteindelijk hoger liggen dan we verwachten als we gedesillusioneerd zijn. En wellicht is de impact van een technologie anders dan verwacht, wat maar al te vaak gebeurt. Als we kijken naar wat we uiteindelijk kunnen verwachten bij AI, is de hamvraag hoe intelligent deze technologie werkelijk kan worden. Is het theoretisch en ook praktisch mogelijk dat AI slimmer wordt dan mensen? Deze fundamentele vraag splitst het AI-veld ook op in twee grote kampen: zij die de strong AI aanhangen versus de weak AI (B. Liu, 2021). De laatste betekent zoveel als AI die toegespitst is op één toepassing, zoals het herkennen van plaatjes. Dit wordt ook wel narrow AI genoemd. De lading hiervan is dat AI goed kan zijn in afzonderlijke taken en hiermee mensen kan ondersteunen, maar geen generieke taken kan oppakken. Sommigen zijn ervan overtuigd dat dit voor AI nooit mogelijk zal zijn.23 Aan de andere kant van het spectrum zit de strong AI, waaronder AI valt die wel degelijk generieke taken kan oppakken, dan wel bewustzijn kan hebben of superintelligent kan zijn (Bostrom, 2015). Eén van de centrale aannames hierbij is dat, als we de hersenen van een mens perfect kunnen namaken in termen van input, output, en het complete neurale netwerk daartussen, we in staat zijn menselijke intelligentie te maken (Cole, 2004). Kort door de bocht gezegd is het idee dat hersenen een computer zijn. Functioneel gezien zou er dan namelijk geen verschil moeten zijn tussen een ‘normale’ mens en een nagemaakte mens die draait op andere hardware. Dit zijn grote discussies en zeker geen uitdagingen die ik in deze rede of in ons lectoraat als geheel wil aanpakken.24 Maar ze zetten wel de toon voor de verwachtingen over AI als technologie en einddoelen die we wel of niet willen najagen. In Hoofdstuk 2richt ik me op praktische uitdagingen voor de komende jaren die we tegemoet gaan, en waar we ons volgens mij op zouden moeten richten. 22Er zijn weinig goed toegankelijke bronnen te vinden over Amara; de beste plek om meer te weten te komen is via Wikipedia (Wikipedia contributors, 2024c). 23Ik laat de discussies hierover voor nu buiten beschouwing, maar in essentie gaat hier over de mogelijkheden of AI begrip en bewustzijn kan hebben. Zie bijvoorbeeld het gedachte-experiment van John Searle over de Chinese Kamer (Cole, 2004), iets waar bijvoorbeeld Daniel Dennett het faliekant mee oneens is (Dennett, 2017). 24Ik zal er wel op reflecteren in Hoofdstuk 3. 18 2 Uitdagingen: Het belang van wederzijds begrip Samenvatting Snappen wij wat AI kan en hoe dit gebeurt? En snapt AI andersom ons als mensen ook? Met de huidige hype van AI worden mogelijkheden van deze technologie duidelijk, maar er zijn ook schaduwzijdes. Ons lectoraat Ambient Intelligence zet zich in voor wederzijds begrip. We maken het proces achter AI transparant en zorgen dat AI aansluit bij de wensen van mensen. In de introductie van deze rede beschrijf ik wat AI als vakgebied definieert en voortstuwt: het maken en onderzoeken van intelligente machines. Dit is nog steeds de overkoepelende uitdaging. Met de recente AI Lente van Generative AI zijn sommige onderdelen van deze uitdaging duidelijker geworden en anderen weer ondergesneeuwd. In dit hoofdstuk benoem ik deze uitdagingen door eerst een aantal casussen te benoemen, waarna ik de specifieke uitdagingen concreet maak met voorbeelden van projecten van ons lectoraat Ambient Intelligence. 2.1 De huidige hype en schaduwzijdes van AI Een rechter die ChatGPT gebruikt om de uitspraak te onderbouwen.1Chatbots die gebruikt worden om desinformatie te verspreiden in de aanloop van de Amerikaanse verkiezingen in November 2024.2AI-modellen die op basis van auteursrechtelijk beschermd materiaal worden getraind.3Big Tech investeren meer dan 100 miljard dollar in de eerste helft van 2024 voor de infrastructuur die nodig is voor AI.4De eerste AI-reclamespot wordt gepubliceerd, gemaakt voor een speelgoedwinkelketen.5Dit is een aantal voorbeelden van nieuwsberichten die deze zomer langskwamen. Eerder zagen we al voorbeelden van een AI-model dat een kunstwedstrijd won6en een Google-onderzoeker die beweerde dat een chatbot bewustzijn had.7Geen dag gaat voorbij, of er is weer nieuwtje over AI dat al dan niet opgeblazen wordt. 1Zie Tweakers. 2Zie AI Forensics en EuroNews. 3Zie NOS. 4Waaronder Microsoft, Amazon, Apple, Meta, zie de Financial Times. 5Zie het Financieel Dagblad en ToysRUs. 6Zie de New York Times. 7Zie de Washington Post. 19 Dankzij relatief makkelijk toegankelijke websites en applicaties kunnen plots veel mensen gebruikmaken van AI om teksten en beelden te genereren. Er zijn tal van afgeleide diensten ontstaan die op basis van AI-modellen, van chatbots die gesprekken tussen historische figuren simuleren tot applicaties die papieren schetsen omzetten naar werkende websites.8Terugkijkend naar de hype cycle zou je wellicht verwachten dat we nu massa-adoptie hebben van deze vorm van AI. Dat is tot op zekere hoogte ook zo, maar gaandeweg worden de gebreken en schaduwzijdes helderder. Voor bepaalde toepassingen werkt AI enorm goed, maar juist met deze globale aandacht wordt er (gelukkig!) nauwlettender gekeken naar de ontwikkeling van deze technologie. Waar deze AI-modellen namelijk behoefte aan hebben is data, veel data. In de introductie benoem ik dat machine learning baat heeft bij het zien van vele voorbeelden, bijvoorbeeld duizend plaatjes om een object goed te kunnen herkennen. Voor LLM’s als GPT geldt hetzelfde: deze worden getraind op veel voorbeelden van tekst. Hieruit worden verbanden gehaald met woorden die elkaar met enige waarschijnlijkheid opvolgen, en dan niet met een paar woorden achter elkaar, maar met reeksen van duizenden woorden. Vervolgens kan een dergelijk model voorspellen welk woord waarschijnlijk een bepaalde reeks moet opvolgen. Hierin zoekt het het patroon dat past bij de context: wat zijn de stijl van de tekst en de woorden die vaak gebruikt worden? De hoeveelheid data die bijvoorbeeld gebruikt is om het GPT-4-model te trainen, wordt geschat op 10 biljoen woorden of 300 terabyte (Schreiner, 11 July 2023).9Dit gebeurt op basis van grote datasets die openbaar te verkrijgen zijn.10 Hier dient zich een eerste schaduwzijde aan: mag een dergelijk model op basis van deze data getraind worden? Hoe zit het met auteursrecht? Media als de New York Times spanden rechtszaken hierom aan, omdat miljoenen van hun artikelen onrechtmatig gebruikt zouden zijn voor het trainen van chatbots.11 Net zoals voor tekst geldt dat ook voor beeld en alle data die gebruikt wordt om zulke modellen te trainen, zoals voor Midjourney en Stable Diffusion.12 Wat ten tweede vaak vergeten wordt, is dat met zulke hoeveelheden data ook veel mensenwerk gepaard gaat. Een model met zulke complexiteit wordt niet ‘even’ getraind. Ten eerste moet bekeken worden of de data die gebruikt worden van goede kwaliteit zijn. Dus veel van deze data wordt bekeken door mensen. Dit is uitdagend en vaak ook repetitief werk, wat ervoor zorgt dat zulke klussen uitbesteed worden. Een onderzoek van het tijdschijft Time liet bijvoorbeeld al begin 2023 zien dat dit werk via bepaalde bureaus naar landen ging waar het loon laag ligt, zoals Kenia.13 Hierin ging het om teksten die bekeken en gecensureerd moesten worden, om8Future Tools heeft een lijst van bijna 3.000 diensten die gebaseerd zijn op AI. 9OpenAI werd opgericht als non-profit organisatie om AI ten bate van mensen te maken, maar inmiddels is er ook een commerciële tak die diensten als ChatGPT uitbaat. Niet alles wat ontwikkeld wordt is openbaar en reproduceerbaar, dankzij ‘zowel het competitieve landschap en de veiligheidsimplicaties van grote modellen als GPT-4’ (vertaald uit het Engels) (OpenAI, 2023). Met wat cynisme valt OpenAI in mijn ogen dan inmiddels ook ClosedAI te noemen. 10Zoals CommonCrawl met 2,3 miljard websites in augustus 2024 en RefinedWeb met ongeveer 400 miljard woorden (Penedo e.a., 2023). 11Zie de New York Times. 12Zie AP News. 13Zie Time. 20 dat deze gingen over strafbare zaken zoals kindermishandeling, bestialiteit en moord. Ook voor onschuldigere taken worden mensen ingezet, om bijvoorbeeld te beoordelen of zoekresultaten in de Amazon-webwinkel goed genoeg zijn, of bepalen wat in politieke filmpjes wordt gezegd. Ook hiervoor worden AI-modellen gebruikt die suggesties doen, maar wel gevalideerd moeten worden door mensen.14 De mensen die dit uitvoeren worden klikwerkers en in het Engels ghostworkers genoemd. Die laatste benaming is erg toepasselijk, want het is een vrij onzichtbaar gedeelte van het werk dat vrijwel geheel via internet wordt uitgevoerd. Een schatting uit 2023 van de Wereldbank over het aantal klikwerkers benoemt namelijk dat tussen de 150 en 430 miljoen mensen die dit (in deeltijd) uitvoeren.15 Los van de humanitaire bedenkingen die hierbij mogelijk zijn, is ook af te vragen hoe efficiënt en goed dit werk gebeurt. Wellicht kost het meer moeite om de modellen te trainen dan zij uiteindelijk opleveren.] Er zijn nog meer nadelen te benoemen van AI, zoals het energieverbuik dat van het trainen en uitvoeren van de modellen. Schattingen hiervan zijn lastig, maar bijvoorbeeld het genereren van een enkel plaatje met een AI-model kost net zoveel energie als het opladen van een smartphone, ongeveer 3 kilowattuur (Luccioni e.a., 2024). Dit werpt verdere uitdagingen op voor klimaatdoelstellingen.[Helemaal gecombineerd met datacenters, die ongeveer 1-1,5% van het globale energieverbruik verbruiken.16 Daarnaast zijn de sociaal-maatschappelijke doelen waarvoor AI kan worden ingezet natuurlijk al lang en breed uitgemeten in fictie, maar ook in realiteit. Typisch voorbeeld is het verspreiden van desinformatie, propaganda, en andersoortig materiaal door kwaadwillenden (Bird e.a., 2023; Wach e.a., 2023). Zo is de impact van AI plots groter dan wellicht gedacht. Gelukkig zijn er ook acties die hoop bieden. Net zoals dat AI kan worden ingezet voor doelen met minder goede intenties, kan het ook hiertegen worden ingezet. Er zijn onderzoeken naar modellen die desinformatie kunnen detecteren in plaats van creëren (Aımeur e.a., 2023). Ook wordt er gewerkt aan efficiëntere AI-modellen, die een factor tien of honderd kleiner zijn en net zo goed presteren (Choudhary e.a., 2020). Hoewel klikwerkers op de manier van hun repetitieve taken een vorm van inkomen hebben, kunnen voor hen nog betere werkomstandigheden gecreëerd worden, of modellen ontwikkeld worden die deze taken ondersteunen (Barbudo e.a., 2023). En een initiatief dat ik verder graag benoem is GPT-NL, een project om een Nederlands open taalmodel te ontwikkelen dat zo open mogelijk is, ook om een eerlijker alternatief voor onder andere ChatGPT te zijn.17 Regulering van AI en alles wat met data gepaard gaat zie ik als noodzakelijk. Vanuit de Europese Unie zijn onlangs twee initiatieven hieromheen gelanceerd: de Data Act en de AI Act.18 De Data Act stelt regels op voor het gebruik van en toegang tot data die in de EU wordt gemaakt. De AI Act gaat in op de ontwikkeling van AI-systemen en de verantwoordelijkheid 14Zie het NRC. 15Zie Worldbank. 16Zie IEA. 17Zie SURF. 18Zie de AI Act en de Data Act. 21 hiervoor. Hierin wordt expliciet gemaakt wat voor AI-gebaseerde technologie verboden is, bijvoorbeeld systemen die grote aantallen mensen kunnen manipuleren of emoties herkennen op werkplekken en onderwijsinstellingen. Daarnaast worden systemen geclassificeerd op basis van hun risico, waarbij onder andere goede documentatie en risicobeheersing verplicht zijn, net als voor generieke AI-systemen. 2.2 Van hype naar hoop: AI bij Ambient Intelligence AI is een breed vakgebied en kan in alle sectoren en domeinen een toegevoegde waarde hebben. Als lectoraat zijn wij bij Ambient Intelligence domein-agnostisch: wij kijken vanuit de techniek, met de mens centraal, naar hoe we AI-technologie kunnen inzetten. Dat wil zeggen dat onze uitdagingen abstracter zijn dan specifieke beroepsvragen zoals het perfect identificeren van een ziekte of het voorspellen wanneer een machine kan uitvallen. Centraal hierbij staat kennis van zaken als het gaat om AI. Er is meer begrip nodig van AI, wat erachter zit, en we hoe ermee kunnen omgaan. Transparantie is hierin een sleutelwoord: hoe werken zulke systemen, waarvan zijn ze afhankelijk, en wat of wie beïnvloeden ze? We moeten daarom toewerken naar een hoger niveau van AI-geletterdheid, in het verlengde van digitale geletterdheid.19 De perceptie van wat AI is en zou kunnen of moeten zijn, dat is een belangrijk maatschappelijk vraagstuk. Ik zeg vaker: AI is een tool, een stuk gereedschap. Als je enkel een hamer hebt, lijkt alles op een spijker. Is AI wel het goede gereedschap voor hetgeen je wilt oplossen? En hoe gebruik je AI dan wel (of niet)? 2.2.1 Het proces centraal Dit is dan ook wat we voor ogen hebben bij ons lectoraat Ambient Intelligence: we onderzoeken hoe ondernemers, het onderwijs, organisaties en overheden met AI uit de voeten kunnen. Eén van de pilaren voor ons datagedreven onderzoek draait dan ook om het proces. Onderliggend hieraan gaat het ook om omgang met data, dus streven we naar verbeterde datageletterdheid.20 Hierbij gaat het onder andere om het begrijpen welke data nodig kan zijn, deze beheren, en de toegevoegde waarde van data kunnen inschatten. Data zijn uitdagend: meten is zeker niet altijd weten. Voorop staat altijd dat goede vragen gesteld moeten worden. Wat wil je met de data? Is de data beschikbaar, of moet deze nog opgehaald worden? Moet er iets gemeten worden en zo ja, hoe dan? Hoe betrouwbaar zijn die metingen? Weet je zeker dat alles gemeten is? Welke dingen meet je wellicht niet, en ben je je niet bewust van dat deze van invloed zijn op je vraag? Dit zijn vragen die vragen om een goede aanpak. Bij ons lectoraat hanteren we voor de analyse van data een proces dat CRISP-DM genoemd wordt: het CRoss-Industry Standard Process for Data Mining (Schröer e.a., 2021). 19Net zoals dat we onze algemene taalvaardigheid in Nederland zouden moeten verbeteren. 20Datageletterdheid is onderdeel van het raamwerk voor Digitale Competentie DigComp van de Europese Unie (Carretero e.a., 2017), zie het framework. 22 Figuur 2.1: CRISP-DM CRISP-DM is context-onafhankelijk: het kan in ieder domein gebruikt worden. Het is een methode om iteratief te ontdekken wat de waarde van data is en deze vervolgens te realiseren. Juist voor het toepassen van AI is een methode als CRISP-DM essentieel.21 Dit proces bestaat uit zes fasen: Business Understanding, Data Understanding, Data preparation, Modelling, Evaluation en Deployment. In ieder hiervan worden verschillende taken opgepakt, bijvoorbeeld om te achterhalen wat het doel is in de ‘bedrijfscontext’. AI toepassen is waarschijnlijk nooit het doel, maar kan een middel zijn, bijvoorbeeld om te voorspellen wanneer fouten zich kunnen voordoen in een productieproces en deze vervolgens te voorkomen. Of om te analyseren in welke groep een revaliderende patiënt zich bevindt, om hierop een behandelplan aan te passen. In de fase Modelling kan AI toegepast worden als de context zich daarvoor leent: er is genoeg data van voldoende kwaliteit voor een bepaald algoritme. Voordat men op dat punt aankomt, moeten de data, als die er al zijn, verkend en opgeschoond worden (Chu e.a., 2016). En daar komen de vele vragen weer. Zijn alle variabelen die geanalyseerd moeten worden wel gerepresenteerd in de data? Wie of wat heeft de data verzameld? Wellicht wijzen de antwoorden op bias: een (onbewuste) voorkeur voor of beïnvloeding van de data (Ntoutsi e.a., 2020). Dit alles 21Er zijn natuurlijk nog andere, vergelijkbare methodes, zoals SEMMA en KDD (Shafique & Qaiser, 2014). 23 kan er al direct voor zorgen dat een AI-techniek mogelijk verkeerde uitkomsten gaat genereren. Zoals dat in jargon heet: garbage in, garbage out. AI toepassen is geen kwestie van data aan een algoritme geven. Juist om dit idee duidelijk te krijgen hebben we als lectoraat gewerkt aan AI-trainingssessies als resultaat van het project Data in Smart Industry.22 Deze zijn beschikbaar als open-access materiaal, met ondersteunende bronnen en oefeningen via deze website.23 Deze uitdagingen van dataverwerking waren bijvoorbeeld het geval in projecten over het automatisch detecteren van objecten in spoorwegomgevingen, waarbij honderden gigabytes aan data beschikbaar waren uit laserscans.24 Hoe nauwkeurig was deze data, en is dat wel nodig? Welke algoritmes zijn van toepassing? Hoe trainen we een efficiënt model? Wat zijn goede manieren om de data te annoteren voordat we kunnen trainen?25 Wat duidelijk mag zijn, is dat er veel stappen gezet moeten worden om tot een goede dataanalyse en inzet van AI te komen. Tot op zekere hoogte kan dit geautomatiseerd worden, want de eerste fasen vragen wel degelijk om mensenwerk. Deze automatisering is een belangrijk onderwerp in het onderzoek van het lectoraat Ambient Intelligence. Een typische manier hiervoor, die verweven is met CRISP-DM, is DataOps en specifiek Machine Learning Operations (MLOps) (Kreuzberger e.a., 2023).26 MLOps is een set van praktijken die gericht zijn op het betrouwbaar en efficiënt in productie brengen en onderhouden van machine learningmodellen. Het combineert aspecten van machine learning, DevOps en data-engineering om het hele levenscyclusbeheer van machine learning te stroomlijnen. MLOps omvat onder andere de automatisering van alle stappen in het verwerken van data, versiebeheer hiervan, het geautomatiseerd testen en implementeren van modellen, en inzicht geven in modelprestaties. Naar de best practices op dit gebied voeren wij toegepast onderzoek uit in een project als DataFlow. Hierin draait het om het vaststellen van de huidige methodes, tools en technieken om efficiënter met data om te gaan, specifiek als het gaat om data-analyse. Er is namelijk een veelvoud aan verschillende raamwerken, softwarepakketten en libraries, zoals de figuur hieronder laat zien.27 Feitelijk teveel om in één keer een afgewogen keuze te maken. Daarom trekken we in dit project op met bedrijven om tot een selectiemethode te komen die hen, en anderen, zal helpen bij het maken van die keuze. 22RAAK-mkb Data in Smart Industry, 2017 – 2020, met Top-Up-project AIoTValley. 23Ook is CRISP-DM-documentatie beschikbaar via verschillende plekken: Originele CRISP-DM documentatie en IBM-documentatie over CRISP-DM. 24TechForFuture Digital Twinning voor Spoorontwerp, 2022 – 2024, en TechForFuture Digitalisatie Bovenleidingen en Draagconstructies, 2020 – 2021. 25En kunnen we het werk van klikwerkers verbeteren of vervangen? 26Ook samengevat onder de noemer AutoML (He e.a., 2021). 27Zie LF AI & Data Foundation. 24 Figuur 2.2: Landschap van AI, met dank aan de LF AI & Data Foundation En als je eenmaal met AI aan de slag kunt gaan, met grote hoeveelheden data, dan is er keuze te over voor alle verschillende technieken, zoals ik in het vorige hoofdstuk al benoemde. Afhankelijk van het type data (tekst, beeld, sensormetingen, etc.) en het type probleem (classificatie, regressie, tekstgeneratie, etc.), zijn bepaalde algoritmes wel of minder geschikt. Ook wat dit betreft zijn er mogelijkheden of om deze selectie te automatiseren, of in ieder geval het zoeken naar de goede instellingen van een specifiek algoritme (Kerschke e.a., 2019; Li Yang & Shami, 2020). Maar als we alles zo goed als mogelijk willen automatiseren, hoe houden we als mensen dan grip op het proces? 2.2.2 Het begrip centraal Hierin zit de balans: wat automatiseren we in de machine, en wat laten we expliciet over aan mensen? Als lectoraat pakken we niet alle uitdagingen van AI zelf aan. Hiervoor werken we allicht samen met andere lectoraten, universiteiten, bedrijven en organisaties, want zij hebben iets dat wij niet voor hen kunnen invullen: domeinexpertise. De domeinexpertise van Ambient Intelligence zelf richt zich op IT, data en AI. Deze technologische inzichten passen we toe in verschillende domeinen, maar we hebben niet al die kennis in pacht. Domeinexpertise is 25 Data is een voedingsbron voor AI, en AI-modellen hebben als doel die data om te zetten in informatie. Het garbage-in-garbage-out-principe vat het belang van goede data samen. Datacentric AI is een eerste nieuwe blik op de zaken: hierin wordt gekeken naar AI-technieken om data te verbeteren voordat de data gebruikt wordt een AI-model te trainen (Zha e.a., 2023). Het idee om data te bekijken en aan te passen voordat het aan een AI-algoritme gegeven wordt is niet nieuw. Maar het inzetten van AI om die data te verbeteren biedt wel degelijk vele mogelijkheden. Een groot probleem is namelijk dat veel data slecht of niet ‘gelabeld’ is: het is niet duidelijk wat de data betekent, bijvoorbeeld wat voor iets er op een plaatje staat, of of een bepaalde waarde in een grafiek slecht of goed is. Hiervoor zijn technieken in opkomst om toch met weinig of laagkwalitatieve data goede resultaten te behalen, zoals semi-supervised learning (Van Engelen & Hoos, 2020).5 Een tweede nieuwe blik op data gaat over de verhouding van data tot informatie, kennis en wijsheid. Dit is minder technisch ingestoken en gaat over het doel dat je met data wilt bereiken. Dit valt uit te beelden in een pyramide vorm, waarop iedere volgende laag bouwt op die daaronder (Frické, 2019). Deze opbouw van niveaus is simplistisch, maar het laat ons wel op een andere manier kijken naar hoe we AI kunnen gebruiken. 5Dit is een soort middenvorm tussen supervised en unsupervised learning, waarmee bijvoorbeeld wordt gekeken naar de verdeling van de data en wat dit kan zeggen over individuele datapunten. 32 Figuur 3.1: DIKW-pyramide Een nauwe blik op AI en data-analyse is namelijk dat we data omzetten in informatie. Deze informatie laat zien wat er aan de hand is, bijvoorbeeld dat er een kat op een foto gedetecteerd wordt, of een machine een bepaalde grenswaarde gaat overstijgen en daarmee kapot zou kunnen gaan. Een niveau hoger zit echter kennis: een kat is gedetecteerd op een foto, waarom is dat zo? Wijsheid is vervolgens het inzicht waarmee een vervolgactie gepland kan worden: de machine moet stopgezet en onderhouden worden. Deze DIKW-pyramide laat zien dat we op basis 33 van data verschillende soorten interpretaties kunnen doen. Dit helpt ons om beter te duiden waarvoor we een AI-systeem wel of niet kunnen gebruiken. Geeft zo’n systeem geen uitleg over een uitkomst? Dan is het niet goed genoeg om bepaalde beslissingen op te baseren. Zegt het niets over het effect van een bepaalde vervolgactie? Dan is het waarschijnlijk niet goed genoeg om een aanbeveling over te nemen. Als we het dan over kennis hebben, is het ook belangrijk om kennis van mensen te gebruiken. Maar hoe digitaliseren we die kennis? Het vakgebied van knowledge representation (kennisrepresentatie) gaat hierover: hoe slaan we kennis op en kunnen we deze vervolgens gebruiken met computers? Hier komt de klassieke, symbolische AI weer om de hoek kijken in de vorm van knowledge graphs (Ji e.a., 2021). In plaats van datagedreven allerlei data te verzamelen, gaat dit over verbanden tussen concepten. Bijvoorbeeld dat deze zin bestaat uit woorden en leestekens, en dat die woorden bestaan uit letters. Dit kan worden uitgedrukt in een graaf die die verbanden laat zien, en waarin vervolgens een algoritme patronen kan opsporen en relaties kan doorgronden. Om kennis op een eenvoudige manier uit mensen te krijgen, kunnen bijvoorbeeld taalmodellen ingezet worden om deze verbanden vast te leggen, op basis van interviews en geschreven documenten (Pan e.a., 2024). Dit is een mooie samensmelting van de symbolische AI (uit de jaren ’70) en de nieuwe aanpak van grote taalmodellen op basis van transformers (uit de jaren ’10). Daarin zie ik grote kansen om ook weer beter verklaarbaar gedrag uit AI-systemen te krijgen, omdat inzichten uit zulke methodes weer op een uitlegbare manier naar mensen vertaald kunnen worden. Ik vermoed ook dat er meer aandacht gaat gekomen voor meer verantwoord gebruik en ontwikkeling van AI.6Wetgeving en regulering zijn gaande om beter in handen te houden wat met wiens data gebeurt, zoals in de Data Act en AI Act van de EU. Responsible AI begint al meer en meer een begrepen concept te worden (Dignum, 2019). Ook voor generative AI zoals taalmodellen en de plaatjesgeneratoren wordt onderzocht wat wel en niet wenselijk is (Gu, 2024). Daarnaast is er ook wat te zeggen voor duurzamere AI (Van Wynsberghe, 2021). Wat ik eerder aanhaalde is dat grotere AI-modellen meer rekenkracht en dus meer energie nodig hebben. De rekenkracht wordt ieder jaar efficiënter, maar de vraag naar die rekenkracht stijgt ook, en harder, dus er is almaar meer energie nodig (C.-J. Wu e.a., 2022). Het trainen van die modellen is maar één aspect van de levenscyclus van data voor AI. Andere fases zijn de verzameling tot experimentatie, het trainen van modellen, optimalisatie daarvan, en uiteindelijk het gebruik van een model. In ieder van die fases is winst te behalen, bijvoorbeeld via betere algoritmes. Maar een andere aanpak van de infrastructuur kan ook verbetering brengen. Op dit moment zijn veel AI-gebaseerde diensten namelijk afhankelijk van cloud-omgevingen om in te draaien. Daarvoor moet data over en weer gestuurd worden via het internet. Met efficiëntere algoritmes en AI-modellen kan AI echter ook lokaal toegepast worden (Deng e.a., 2020). Dit concept wordt edge intelligence genoemd, waarbij de intelligentie dus niet elders, in de cloud, zit, maar op een eigen systeem. Dit kent voordelen zoals onafhankelijkheid van internetverbinding en 6Misschien is dat wel wishful thinking, maar de ontwikkelingen zijn er gelukkig. 34 veiligheid vanwege geen communicatie met andere systemen. Vanuit duurzaamheidsoogpunt vergt dit echter ook weer een investering in kleinere, en meer computers. Wat de komende tijd op de voorgrond gaat staan is de bredere inzet van de modellen die aan de huidige generatieve AI ten grondslag liggen: foundation models (Zhou e.a., 2023). Dit zijn modellen die getraind zijn met niet één doel voor ogen: ze kunnen generiek worden ingezet en zijn daarmee een stap naar Artificial General Intelligence (AGI). Dat wil zeggen dat er verschillende taken aan een model gegeven kunnen worden, zoals bij een taalmodel het schrijven van een tekst, het samenvatten daarvan of het geven van een antwoord op een vraag. Deze modellen hebben echter nog limitaties, maar die zijn op dit moment steeds minder van toepassing zijn door nieuwe ontwikkelingen. Huidige voortgang wordt bijvoorbeeld geboekt voor multimodale foundation modellen die getraind worden op zowel tekst als beeld en audio (Li e.a., 2024). Hoe snel deze modellen compleet generiek worden is een open vraag, ook omdat de definitie van AGI nu niet toereikend is om hier iets definitiefs over te zeggen. De vraag is dan ook hoe slim AI echt is. Bij AI wordt al gauw gedacht dat zulke systemen zelf leren. Dat is echter nog niet zo. Er gaat veel werk zitten in het ophalen van de juiste data, deze verwerken, annoteren, mee experimenteren, dan het analyseren, het trainen van modellen met algoritmes, het evalueren, en uiteindelijk het inzetten. Met veel van deze stappen gaat mensenwerk gepaard. Hoe leren werkt is een vraag waarop het vakgebied meta-learning zich stort: het automatisch laten ontdekken wat een goede aanpak is om een model te trainen (Hospedales e.a., 2021).7 Waar echter voor de komende tijd de intelligentie in zit, is volgens mij toch echt de samenwerking tussen mensen en machines.8Hoe begrijpen we elkaar beter en kunnen wij als mensen AI optimaal en verantwoord inzetten? Dit wordt het elders hybride intelligentie genoemd (Akata e.a., 2020), waar ik kies voor symbiotische intelligentie. Dit licht ik toe in de volgende sectie over de volgende stappen voor mensen op weg naar onze horizon. 3.3 De horizon van mensen Wat maakt ons mens? Een vraag die ik heb uitgesteld om te beantwoorden is deze, en in het bijzonder zaken over emoties en bewustzijn. Sluitende antwoorden ga ik niet geven, en wellicht zijn die er ook niet.9 7Zie ook het concept van Gödel machines die hun eigen code kunnen herschrijven om zichzelf te verbeteren (Schmidhuber, 2007). 8Technieken als semi-supervised learning lenen zich hier goed voor. 9Een grapje dat vaker wordt gemaakt is dat wat mensen en computers onderscheidt, het beantwoorden van CAPTCHA’s is. CAPTCHA staat voor Completely Automated Public Turing test to tell Computers and Humans Apart. Bekende voorbeelden zijn de de reCAPTCHA-testen van Google die gebruikt worden op websites, bijvoorbeeld door een aantal plaatjes aan te klikken waarop auto’s staan. Dit wordt dan gebruikt om te bevestigen dat een mens probeert in te loggen in plaats van een softwareprogramma. En daarnaast wordt dit ook gebruikt om informatie in te winnen om machinelearningmodellen te trainen: zo goed als 35 Ik haalde eerder de Turing-test aan, één van de eerste gedachte-experimenten om te bepalen of je praat met een mens of een computer. Dit gaat over het verschil tussen menselijke en kunstmatige intelligentie, wat een nauwere vraag is dan wat ‘mens zijn’ betekent. Kan een computer net zo menselijk zijn als mensen? De Turing-test zelf gaat alleen over taal, en slechts geschreven taal in de originele vorm van het experiment (Turing, 1950). Met de huidige large language models (LLM’s) lijkt het erop dat de Turing-test in sommige gevallen verslagen kan worden, waarbij een computer niet altijd onderscheiden kan worden van een mens (Elkins & Chun, 2020; Jones & Bergen, 2024). Huidige text-to-speech-software heeft inmiddels zulke realistische uitspraak dat deze niet meer van menselijke spraak te onderscheiden is (Tan e.a., 2024). Gekoppeld aan LLM’s zou dit er ook voor kunnen zorgen dat de Turing-test ook in gesproken vorm door een computer verslagen zou kunnen worden. Een ander inzicht is dat de Turing-test mensen vooral een spiegel voorhoudt. Wat je bespreekt met een computer hangt vooral af van wie je zelf bent, dus het zal iets zeggen over je eigen blik op menselijkheid (Sejnowski, 2023). Dus een vorm van AI kan menselijk gedrag vertonen. De manier waarop dit gebeurt komt steeds dichter bij wat we ervaren als mensen: in tekst, spraak, en wellicht al snel ook in beeld.10 Wat mij betreft is de interessantere vraag echter: waarom? Waarom willen we AI? Hierop zijn vele antwoorden te geven, die te maken hebben met de brede doelstellingen van het vakgebied. Ten eerste om systemen te maken die beter werken dan wat er nu is, efficiënter zijn, en nieuwe taken kunnen uitvoeren. Ten tweede om menselijke intelligentie beter te begrijpen. Ten derde: omdat het kan. Dit laatste is vaak een drijfveer van technologie. Het kan, dus we proberen het. Maar waarom willen we AI die menselijk is? Moet een AI-gebaseerd system per se menselijke intelligentie hebben om diens werk goed te doen? Moeten emoties onderdeel zijn van dit systeem?11 Kan of moet een AI-systeem een slechte dag hebben, net als mensen dat zo hebben? Moeten AI-systemen ook menselijke normen en waarden hebben? Dit zijn gesloten vragen, maar het enige antwoord is ‘het ligt eraan.’ Context is uiterst belangrijk, dus hoe een AI-systeem wordt ingezet bepaalt wat nodig is. Ik verwacht dat we anders naar intelligentie gaan kijken. Hopelijk met meer begrip van wat intelligentie inhoudt, maar ook welke normen en waarden we daaraan hangen. Respect voor elkaars (menselijke) intelligentie, maar voor andersoortige intelligenties. Op den duur verschuift, verwacht ik, het algehele beeld van wat mensen mensen maakt. We zijn verbonden met technologie, soms omdat het nodig is, vaak omdat we het gewend zijn. Mijn verwachting is dan ook dat wij steeds minder onderscheid gaan maken tussen mens en machine. Onze technologie maakt wie wij zijn, en andersom. Deze symbiose zou een co-evolutie genoemd kunnen worden (Lee, 2020). Mens en machine groeien naar elkaar toe, iets wat het transhumanisme aanhangt: het verbeteren van de mens dankzij technologie (Huxley, 2015). Wij veranderen ons gratis annotatie van data door honderden miljoenen mensen op het internet (Von Ahn e.a., 2008). 10Zoals met Sora van OpenAI (Y. Liu e.a., 2024). Tastbare, fysieke AI in een realistische, menselijke vorm (humanoïde robots) lijkt echter nog ver weg (Mara e.a., 2021; Seaborn e.a., 2023). 11Affectieve Intelligentie? Met huidige chatbots op basis van LLM’s kunnen dialogen gevoerd worden die lijken op interpersoonlijke relaties en als zodanig gezien worden door mensen. Dit kan zover gaan als een liefdesverhouding met zulke chatbots (Brandtzaeg e.a., 2022.) 36 leven met behulp van AI, en wij veranderen AI ook door nieuwe ontwikkelingen. Hoe we ons verhouden tot AI is een kernvraag (Siemens e.a., 2022). Of intelligentie menselijk is of niet kan op den duur minder belangrijk worden. Misschien wegen de meningen van AI op een dag net zo zwaar als die van mensen. Daarvoor zijn dan wel goede kaders nodig om te bespreken wat standpunten zijn van menselijke en kunstmatige intelligentie. Onderbouwing van argumenten is vanuit een rationeel standpunt noodzakelijk. Fundamentele discussies over het toekennen van bepaalde eigenschappen aan AI, zoals bewustzijn (McDermott, 2007), zullen blijven doorgaan. Dit zijn uiteindelijk geen technische problemen, maar menselijke uitdagingen waarover we het gesprek moeten blijven voeren. Gaat AI ons leven verbeteren? Dat ligt aan onszelf. Onderliggend aan technologie en de ontwikkeling daarvan liggen normen en waarden. Deze duiden wat we belangrijk vinden en zijn ook subjectief. Het publieke debat hierover zou ruimte moeten laten voor ieders mening, en vooral ook constructief moeten zijn (Brauner e.a., 2023; Fast & Horvitz, 2017). Er is noodzaak voor transparantie over wat AI wel en niet kan, en wat daarmee gepaard gaat. Om deze boodschap nogmaals te herhalen: er is hogere AI-geletterdheid nodig. Geïnformeerde discussie hierover helpt. Zowel voor de AI-wetenschapper die niet alle meningen en gevoelens van mensen hierover kan weten, als voor de mensen die niet weten wat er allemaal met AI gepaard gaat. Als we verder in de toekomst proberen te kijken, is er veel mogelijk en vooral onzeker. Als de (rode) lijn tussen mens en machine vervaagt, volgt wellicht een ultieme symbiose. Dit mogelijke punt ligt in de toekomst, misschien ver weg en misschien dichter bij dan we denken. Daarom is het belangrijk dat we verstandiger en verantwoorder omgaan met AI. We sturen zelf hoe en of we daar willen komen. Het beste moment om te beginnen met deze discussie was 70 jaar geleden; het op één na beste moment is nu. In het volgende hoofdstuk belicht ik hoe we dat kunnen gaan doen. 37 4 Actie: Samen verantwoordelijk Samenvatting Deze rede richt zich op bewustwording, maar is ook een aanzet tot actie. Mijn drie aanbevelingen over AI zijn: verbeter wederzijds begrip, onderzoek de impact van AI, en pas een goede methode toe. Ons lectoraat Ambient Intelligence zet hiervoor stappen samen met het onderwijs, andere hogescholen, en het bedrijfsleven. Het is voor iedereen belangrijk diens AI-geletterdheid te verbeteren. Een aantal startpunten daarvoor is beschikbaar als huiswerk na het lezen van deze rede. 4.1 Terug naar het nu: what will (A)I do? Het is tijd voor actie. Het lijkt wellicht flauw om dit bij ieder individu te leggen, maar ik wil onderstrepen dat je jezelf niet moet onderschatten. Stel jezelf de vraag: What will (A)I do? Onderzoek en wetenschap dienen de maatschappij. Als lectoraat komen we tot nieuwe inzichten op specifieke onderwerpen, zoals AI. We signaleren wat er gebeurt in fundamenteel onderzoek, testen dit in echte casussen, en bekijken hoe we bedrijven verder kunnen helpen hiermee. Dit is toegepast onderzoek, dat leidt tot aanbevelingen voor verantwoord en onderbouwd gebruik van deze technologie. Hieronder doe ik een aantal aanbevelingen over AI, geef ik aan wat ons lectoraat Ambient Intelligence gaat doen, en wat we gezamenlijk zouden moeten doen. 4.1.1 Aanbevelingen over AI Mijn aanbevelingen over AI vallen samen te vatten in drie punten. 1. Verbeter wederzijds begrip. In de symbiose tussen mens en machine moeten zij elkaars patronen herkennen en interpreteren. Er is dus noodzaak voor verantwoordelijkheid van begrip van beide kanten. Mensen moeten leren hoe algoritmes toegepast worden, waarop zij gebaseerd zijn, en wat de mogelijkheden en tekortkomingen ervan zijn. Dit vergt een hogere AI-geletterdheid en kan geholpen worden door onderzoek naar Explainable AI. Hiermee zijn mensen beter in staat AI op waarde te schatten. Machines, de AI-systemen, moeten snappen wat mensen bedoelen, wat hun intenties 38 en verwachtingen zijn. De inzet van algoritmes moet worden aangepast aan de belangen van mensen, op een verantwoorde en dus duurzame manier. Dit betekent dat het proces deels participatief moet plaatsvinden, zodat belanghebbenden goed betrokken worden. Op technisch vlak betekent dit dat bepaalde stappen in het proces zo goed als mogelijk geautomatiseerd kunnen worden, zoals via DataOps en MLOps. Voor de machines betekent dit dat zij meer mensgeletterd moeten worden. 2. Onderzoek de impact van AI. De onderzoeksagenda rondom AI moet verscherpt worden. Er is niet alleen behoefte aan kortetermijndenken voor de huidige hype van AI met alle generatieve vormen. We moeten een pad schetsen voor de impact van AI op langere termijn. Als we dat niet doen, onderschatten we de mogelijke effecten van AI, zoals de Wet van Amara ons waarschuwt. Initiatieven rondom het verantwoord omgaan met onze data, zoals de de Data Act en de AI Act van de EU, ondersteunen dit. Als we nu nadenken over welke richting we opsturen, helpt dat ons doemscenario’s zo goed als mogelijk in te schatten. Op technisch vlak dienen we onderzoek te doen naar concepten als responsible by design en de integratie van normen en waarden in het ontwerp van AI-systemen (Dıaz-Rodrıguez e.a., 2023; Jobin e.a., 2019). 3. Pas een goede methode toe. AI is geen magie, maar het is ook geen 1 + 1 = 2. Er zijn vele unknown unknowns, zaken waarvan we niet weten dat we ze niet weten. Wat we kunnen doen is dit gestructureerd aanpakken. Wetenschappelijke methodes helpen daarbij en gaan per definitie gepaard met discussies en onzekerheden. Dit betekent niet dat we zulke processen moeten loslaten, maar dat we iteratief moeten bekijken wat wel en niet werkt. Enige terughoudendheid en reflectie op de ontwikkeling van AI is in mijn ogen belangrijk. De insteek is niet om te treuzelen hierop, maar juist van tevoren de (on)mogelijkheden en risico’s van AI in kaart te brengen. Methodes zoals CRISP-DM zijn hiervoor een basale aanzet. De integratie van AI in complexe vraagstukken vraagt echter veel meer, namelijk de betrokkenheid van alle belanghebbenden. Enkel een bestuurlijk-technische aanpak hiervoor is zeker niet voldoende. Dit maakt een multidisciplinair, overkoepelend proces noodzakelijk en dit verdient nog veel meer (toegepast!) onderzoek. 4.1.2 Het lectoraat in actie Met ons lectoraat Ambient Intelligence zetten we stappen die deze aanbevelingen volgen. Samenwerking is van belang en focus ook. We richten ons op de technische aspecten van de symbiose tussen mens en machine, waarbij we uitgaan van verantwoorde, human-centered principes voor de ontwikkeling en toepassing van AI. Zoals keer en te meer benoemd zijn Explainable AI (XAI) en MLOps de twee pilaren van ons AI-gerichte onderzoek. Er zijn verschillende onderwerpen die hieraan grenzen en die we onderzoeken. Edge intelligence omvat de studie 39 naar efficiënte inzet voor intelligente systemen die op zichzelf staan, op kleine systemen die weinig energie verbruiken en deels onafhankelijk zijn van de cloud (Deng e.a., 2020). Ook staat immersive data-visualisatie voor data-exploratie op onze roadmap, waarin we onderzoek doen naar alternatieve manieren om data te verkennen, zoals door 3D-visualisaties in virtual reality (Kraus e.a., 2022; Qin e.a., 2020). In drie verschillende SPRONG-programma’s doen we op dit moment gezamenlijk met andere lectoraten en andere organisaties onderzoek. Een SPRONG-programma dient ertoe deze partners samen te brengen tot één grote onderzoeksgroep, in een traject van acht jaar. In de SPRONG Data Engineering en Management in Dataketens (DEMAND) richten we ons op de noodzaak om veilig, verantwoord en efficient met data om te gaan. Datagedreven werken met AI kan immers alleen als het data-fundament op orde is. Samen met Saxion, en de HAN en Fontys hogescholen onderzoeken we onderwerpen als data management, data engineering en AI engineering om deze kennis te ontwikkelen en delen. In de SPRONG Digital Driven Manufacturing (DDM) onderzoeken we hoe we de maakindustrie met AI en robotica verder kunnen digitaliseren, om deze efficiënter in te richten en het professionals in deze sector te ondersteunen. Dit is een samenwerking tussen Saxion en Windesheim hogescholen, gericht op onderwerpen als autonome navigatie in industriële omgevingen, predictief onderhoud en procesautomatisering. In onze derde SPRONG GROUNDED bekijken we hoe we een gezonde, veilige en duurzame leefomgeving kunnen ontwikkelen met behulp van sensoren, data-analyses en mens-machine-interactie. Dit pakken Saxion en de Haagse Hogeschool samen op door onderzoek te doen naar nanotechnologie voor nieuwe sensoren om data te verzamelen, data beschikbaar te maken in dataplatforms, en analyses van deze met AI uit te voeren en interpreteerbaar te maken. Via deze SPRONGen en met hun partners ontwikkelen en toetsen we onze kennis op dataen AI-gebied, en delen deze kennis met belanghebbenden. Als lectoraat verbreden en verdiepen we onze verbinding met onderwijs. In de nieuwe bacheloropleiding Applied Data Science & AI en de master ICT: Software Engineering, en de bachelor HBO-ICT werken de docent-onderzoekers van ons lectoraat mee om relevant en toekomstgericht onderwijs over AI op te zetten en uit te voeren. Dit reikt van introducties tot machine learning en CRISP-DM als methodologie tot diepgaande uitleg over deep learning en MLOps. Ook streven we ons onderwijsmateriaal goed deelbaar te maken binnen Saxion, want AI is voor ieder vak van belang. Daarnaast onderzoeken we hoe we AI voor onderwijs in kunnen zetten, zoals wat de mogelijkheden zijn voor chatbots die docenten en studenten ondersteunen. We werken mee aan onderwijs over AI en AI voor onderwijs. In Deventer openden we tijdens mijn installatie als lector op 17 oktober ons Data+AI Lab, als samenwerking tussen de lectoraten Ambient Intelligence en Smart Cities, vanuit de SPRONG DEMAND. De doelstelling van het Data+AI Lab is kennis over data en AI ontwikkelen, bundelen en beschikbaar maken. De hoofdvraag is dan ook hoe we de symbiotische samenwerking tussen mens en machine kunnen ondersteunen. Dit doen we vanuit principes voor datagedreven werken: verantwoord, duurzaam en human-centred. Van belang zijn het duiden van de juiste processen en methodes, de beschikbare tools zoals softwareframeworks en -pakketten, en de toepasbare technieken, namelijk algoritmes voor machine learning, deep learning, en andersoortige 40 AI. Vanuit het onderzoek dat we in dit lab uitvoeren met onze docent-onderzoekers, bedrijven, overheden en studenten, stellen we hiervoor best practices op. Ook experimenteren we met cloud computing voor rekencapaciteit. Kernvraag hierbij is hoe we op een gestructureerde, efficiënte, en reproduceerbare manier met data en AI omgaan. Wat we aan kennis ontwikkelen, brengen we waar mogelijk uit als open resultaten. Dat wil zeggen: toegankelijk voor geïnteresseerden in het kader van open science. Ook zien we kansen om open data te genereren en toegankelijk te maken voor verder onderzoek. Al onze opgedane kennis bundelen we in een Body of Knowledge, Skills & Attitude (BoKSA) voor data en AI. De visie voor het Data+AI Lab is dat het een platform wordt voor onderzoek en onderwijs binnen Saxion, maar ook voor belanghebbenden daar buiten. Als je met data en AI aan de slag wilt, is het lab een uitstekend vertrekpunt waar je kunt kennismaken met deze technologie en ook terecht kunt voor verdere verdieping. Hiermee streven we ook naar een hechtere (learning) community voor AI binnen Saxion, want we moeten samen aan de slag. 4.1.3 Samen in actie AI inzetten lukt ons niet alleen. Niet als onderzoekers, technici, beleidsmakers, docenten, studenten, bedrijven, overheden, burgers afzonderlijk. AI vergt actie van ons allen. Iedereen heeft belangen die verschillen van die van anderen of daar deels mee overlappen. We even allemaal onze eigen rode draad. Iedere discipline van onderzoek en iedere sector kent een ander perspectief op de zaken. Om AI goed te kunnen ontwikkelen en toe te passen, is een multidisciplinaire aanpak essentieel. Dit is niet een kwestie van samenkomen en even brainstormen, maar een proces van de lange adem. Zoals ik hierboven aanhaalde: men moet meer snappen van AI en het gebruik van data en er moet een langetermijnvisie komen die gedragen wordt door de samenleving. Om verder te komen met AI waarbij iedereen ervan profiteert, moet ieders belang vertegenwoordigd kunnen zijn. Laat deze rede een oproep zijn tot zulke Activistische Intelligentie. 4.2 Huiswerk: leven is leren Deze rede is niet af. Dat wil zeggen: het vakgebied AI heeft nog genoeg te ontdekken. Er is nog veel te doen, en dat lukt ons als lectoraat, als onderzoekers, als Saxion, niet in ons eentje. Daarvoor hebben we ook jou, de lezer, nodig. Niet om nieuwe algoritmes te ontwikkelen of data te analyseren, maar om bewust(er) te worden van AI. Daarvoor geef ik hieronder huiswerk mee, als oefening voor de lezer.1Mijn persoonlijke motto is: leven is leren. Ik hoop dat jij er ook voor open staat om meer over AI te weten te komen, om het verantwoorder te gebruiken. 1Hiervan komt niets op het tentamen, het is allemaal facultatief. 41 data, metadata; digital twins en alle definities daarvan; en nog veel meer dingen. Misschien de volgende keer. Media-aanraders Mensen gebruiken verhalen om de wereld te begrijpen. Ik ben niet van mening dat wetenschappelijke literatuur de beste manier is om ideeën uit te leggen. Veel fictie boort nieuwe concepten aan die op hun beurt weer de wetenschap en de maatschappij beïnvloeden (en andersom). Ik gebruik dan ook liever de term speculative fiction dan science fiction om dit soort literatuur te benoemen. Ik ben er daarnaast van overtuigd dat geletterdheid gebaat is bij meer lezen. Zo ook voor AI-geletterdheid, dus ik draag graag een aantal werken voor die de geïnteresseerde lezer tot zich kan nemen. En niet alleen in de literatuur, maar ook in films en games komen op hun eigen manier relevante ideeën naar voren die nieuwe ideeën naar voren brengen, zowel ter inspiratie en als waarschuwing. De redelijke bekende boeken en films heb ik achterwege gelaten, dit zijn mijn persoonlijke aanraders die mij inspireren. Dus, wil je meer te weten komen over… • …(Good Old-Fashioned) AI? Dan is Gödel Escher Bach van Douglas Hofstadter mijn definitieve aanrader. Tijdens mijn studie zeiden we al: als je dit boek hebt uitgelezen, ben je een propedeuse AI waardig. • …verschillende soorten van intelligentie? –Blindsight van Peter Watts is waarschijnlijk mijn favoriete boek, waarin ongelooflijk veel ideeën worden uitgediept rondom intelligentie, bewustzijn, transhumanisme, en dat op enigszins wetenschappelijke basis, met honderden referenties aan het eind van het boek. En het is beschikbaar als open-access publicatie. –Vacuum Diagrams van Stephen Baxter belicht allerlei vormen van intelligentie, samen met de evolutie van mensen over miljoenen jaren heen. –The Sirens of Titan van Kurt Vonnegut Jr. schetst hoe de mensheid dankzij een buitenaards bericht hun technologie kan verbeteren; de vraag is achter wat het bericht eigenlijk betekent. –The Book of the New Sun van Gene Wolfe speelt zich zo ver in de toekomst af dat onduidelijk is wat magie is en wat technologie. Het blijkt maar heel langzaam wat er aan de hand is. Dit boek is wat mij betreft hét voorbeeld dat speculatieve fictie literair kan zijn. • …transhumanisme? –Diamond Dogs van Alastair Reynolds verkent hoe ver een team onderzoekers gaat om hun eigen hersenen aan te passen om een buitenaards artefact te verkennen. –Diaspora van Greg Egan beschrijft hoe in de verre toekomst mensen in fysieke en digitale vorm bestaan, inclusief beschrijvingen in zesdimensionale ruimte; het is 48 maar goed dat de schrijver een complete website met wiskundige onderbouwingen bijlevert. –The Last Question van Isaac Asimov is een kort verhaal over de laatste vraag die de mens ooit zal stellen. –SOMA van Frictional Games is een game die de vraag stelt wat bewustzijn inhoudt en doet dit met de hersenscan van de hoofdrolspeler die verongelukt is als vertrekpunt. –Deus Ex van Ion Storm pakt heel veel onderwerpen tegelijk op in een game met veel keuzevrijheid (voor die tijd): nanotechnologie, AI, heel veel overdreven complottheorieën, een wereldorde verstorende pandemie, en de keuze aan de speler om dit op een bepaalde manier op te lossen. –2001: A Space Odyssey van Arthur C. Clarke is een boek met een weergaloze verfilming door Stanley Kubrick dat hypothiseert dat de evolutie van mensen te danken is aan buitenaardse intelligentie, waar in de toekomst ook nog een botsing met AI door volgt. • …de invloed van (kunstmatige) taal op (kunstmatige) intelligentie? –Story of Your Life van Ted Chiang is een novelle over het ontcijferen van een buitenaardse taal die perceptie verandert. De verfilming Arrival beeldt dit goed uit, maar het boek is beter. –Babel-17 van Samuel R. Delaney stelt dat taal een wapen kan zijn, gebaseerd op theorieën van linguïstische relativiteit. –The Diamond Age van Neal Stephenson verhaalt over een boek dat een meisje helpt opgroeien door zich aan te passen aan haar omstandigheden. • …AI die menselijk wordt? –Blade Runner van Ridley Scott is een verfilming van het boek Do Androids Dream of Electric Sheep? van Philip K. Dick, waarin synthetische mensen de vuile klusjes moeten opknappen; dat kan natuurlijk niet goed gaan. De sfeer die deze film neerzet is ongekend. –Ghost in the Shell verkent het thema identiteit in relatie tot belichaming daarvan. • Affectieve Intelligentie? –HER van Spike Jonze is een film waarin het lijkt te draaien om de opbloeiende liefde van een man voor zijn computerbesturingssysteem, maar waar op de achtergrond iets groters speelt. –I Dated a Robot is een aflevering van de animatieserie Futurama, waarin de risico’s van mens-machine-relaties en het kopiëren van menselijk bewustzijn worden belicht. • …de gevaren en mogelijkheden van data en AI, in non-fictie-vorm? –Superintelligence van Nick Bostrom verkent op theoretische basis wat er nodig is voor superintelligentie en wat deze intelligentie zou kunnen drijven. 49 –From Bacteria to Bach and Back van Daniel Dennett is een historie van de evolutie van menselijk bewustzijn, en legt hierin ook de link naar mogelijk kunstmatig bewustzijn. –The Model Thinker van Scott E. Page legt uit hoe je met verschillende, datagedreven manieren naar problemen kunt kijken. –Echt Nep van Menno van Doorn, Sander Duivestein en Thijs Pepping belicht vele voorbeelden van desen misinformatie. –Ghost Work van Mary L. Gray en Siddharth Suri geeft uitleg over klikwerkers. • …en als je hiervoor passende muziek zoekt, dan nog een aantal persoonlijke aanraders die deze thematiek aansnijden. –Obsolete van Fear Factory is een album dat het onheilspellende beeld schetst van machines die mensen overheersen, en dat mensen achterhaald zijn. –Relentless Mutation van Archspire pakt dit thema nog wat extremer op, door te verwoorden wat er kan gebeuren als transhumanisme een stap te ver gaat. –01011001 van Ayreon is een opera van Nederlandse bodem met vele gastzangers, over uplifting van de mensheid door middel van technologie. –Data Renaissance van The Algorithm doet wat de naam zegt: een muzikaal gezicht geven aan de digitale transitie. Laat deze media je inspireren dan wel waarschuwen. Voor verdere aanraders houd ik me aanbevolen! 50 Over deze rede Dit is de lectorale rede van Jeroen Linssen, lector Symbiotic Artificial Intelligence bij het lectoraat Ambient Intelligence van Hogeschool Saxion. Hij sprak deze rede uit op 17 oktober 2024, in Deventer. Over Jeroen Linssen Dr. Jeroen Linssen (1987) is Lector Symbiotic AI bij het lectoraat Ambient Intelligence van de Saxion University of Applied Sciences. Hij is gepromoveerd bij de vakgroep Human Media Interaction van de University of Twente (2017) na zijn studie Cognitive Artificial Intelligence aan de Utrecht University (2011). Zijn onderzoek richt zich op het ontwerpen en inzetten van systemen die met behulp van Kunstmatige Intelligence (AI) beslissingen ondersteunen. Hij leidt het lectoraat Ambient Intelligence samen met Wouter Teeuw. Jeroens doel is om de intelligentie van AI-gebaseerde systemen te verbeteren zodat ze beter met mensen kunnen samenwerken – en vice versa. Zijn persoonlijke motto is: leven is leren. ORCID https://orcid.org/0000-0002-2626-1837 51 Email [email protected] Website Ambient Intelligence Open science Met deze rede wil ik de principes achter open science en FAIR data ondersteunen. Het algemene idee hierachter is dat wetenschap toegankelijk moet zijn voor iedereen.6Wetenschap is niet een mening gebaseerd op gevoel, maar een wijze van methodisch zaken analyseren, interpreteren, en (h)erkennen welke onzekerheden er zijn. Daarom stel ik het onderzoek dat wij uitvoeren zo goed als mogelijk openbaar ter beschikking, dus ook deze rede. Vandaar dat de tekst en de bronbestanden beschikbaar zijn om te lezen en delen volgens onderstaande licentie. De lectorale rede Tussen patroon en persoon door Jeroen Linssen is gelicenseerd onder CC BY-NC 4.0. De bronbestanden zijn tevens beschikbaar onder dezelfde licentie via de repository TussenPatroonEnPersoon. De website zelf is gehost via Github Pages, op https://saxionami.github.io/ TussenPatroonEnPersoon/. Voor het citeren van deze rede kan de volgende BibTeX-referentie gebruikt worden: @misc{linssen2024tussenpatroonenpersoon, author = {Linssen, J.M.}, title = {Tussen patroon en persoon: een rede(n) voor symbiotische (artificiële) intelligentie}, year = {2024}, howpublished = {\url{https://saxionami.github.io/TussenPatroonEnPersoon/}}, doi = {10.5281/zenodo.13939704}, publisher = {Ambient Intelligence, Saxion University of Applied Sciences, Deventer} } Of, in APA-formaat: Linssen, J.M. (2024). Tussen patroon en persoon: een rede(n) voor symbiotische (artificiële) intelligentie. https://saxionami.github.io/TussenPatroonEnPersoon/; Ambient Intelligence, Saxion University of Applied Sciences, Deventer. DOI:10.5281/zenodo.13939704 6Zie https://www.openscience.nl/ voor meer toelichting over open science en GO FAIR over Findable, Accessible, Interoperable en Reusable data. 52 Referenties Aımeur, E., Amri, S., & Brassard, G. (2023). Fake news, disinformation and misinformation in social media: a review. Social Network Analysis and Mining,13(1), 30. Akata, Z., Balliet, D., De Rijke, M., Dignum, F., Dignum, V., Eiben, G., Fokkens, A., Grossi, D., Hindriks, K., Hoos, H., e.a. (2020). A research agenda for hybrid intelligence: augmenting human intellect with collaborative, adaptive, responsible, and explainable artificial intelligence. Computer,53(8), 18–28. Amari, S. (1967). A theory of adaptive pattern classifiers. IEEE Transactions on Electronic Computers,3, 299–307. Arrieta, A. B., Dıaz-Rodrıguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., Garcıa, S., Gil-López, S., Molina, D., Benjamins, R., e.a. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information fusion,58, 82–115. Azevedo, A., & Santos, M. F. (2008). KDD, SEMMA and CRISP-DM: a parallel overview. IADS-DM. Barbudo, R., Ventura, S., & Romero, J. R. (2023). Eight years of AutoML: categorisation, review and trends. Knowledge and Information Systems,65(12), 5097–5149. Bird, C., Ungless, E., & Kasirzadeh, A. (2023). Typology of risks of generative text-to-image models. Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society, 396– 410. Borys, K., Schmitt, Y. A., Nauta, M., Seifert, C., Krämer, N., Friedrich, C. M., & Nensa, F. (2023). Explainable ai in medical imaging: An overview for clinical practitioners–saliencybased xai approaches. European journal of radiology,162, 110787. Bostrom, N. (2015). Superintelligence: Paths, Dangers, Strategies. Oxford University Press. Bostrom, N. (2020). Ethical issues in advanced artificial intelligence. Machine Ethics and Robot Ethics, 69–75. Brandtzaeg, P. B., Skjuve, M., & Følstad, A. (2022). My AI friend: How users of a social chatbot understand their human–AI friendship. Human Communication Research,48(3), 404–429. Brauner, P., Hick, A., Philipsen, R., & Ziefle, M. (2023). What does the public think about artificial intelligence?—A criticality map to understand bias in the public perception of AI. Frontiers in Computer Science,5, 1113903. Buchanan, B. G. (2005). A (very) brief history of artificial intelligence. AI Magazine,26(4), 53–60. Buchanan, B. G., & Smith, R. G. (1988). Fundamentals of expert systems. Annual review of computer science,3(1), 23–58. 53 Campbell, M., Hoane Jr, A. J., & Hsu, F. (2002). Deep blue. Artificial intelligence,134(1-2), 57–83. Carretero, S., Vuorikari, R., & Punie, Y. (2017). DigComp 2.1. The Digital Competence Framework for Citizens. With eight proficiency levels and examples of use. Publications Office of the European Union. Cave, S., & Dihal, K. (2019). Hopes and fears for intelligent machines in fiction and reality. Nature machine intelligence,1(2), 74–78. Chalmers, D. J. (2016). The singularity: A philosophical analysis. Science fiction and philosophy: From time travel to superintelligence, 171–224. Choudhary, T., Mishra, V., Goswami, A., & Sarangapani, J. (2020). A comprehensive survey on model compression and acceleration. Artificial Intelligence Review,53, 5113–5155. Chrisley, R. (2003). Embodied artificial intelligence. Artificial intelligence,149(1), 131–150. Chu, X., Ilyas, I. F., Krishnan, S., & Wang, J. (2016). Data cleaning: Overview and emerging challenges. Proceedings of the 2016 international conference on management of data, 2201– 2206. Cole, D. (2004). The Chinese Room Argument. In The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/entries/chinese-room/; Metaphysics Research Lab, Stanford University. Copeland, B. (2024a). Alan Turing.https://www.britannica.com/biography/Alan-Turing Copeland, B. (2024b). History of artificial intelligence (AI).https://www.britannica.com/ science/history-of-artificial-intelligence Darrach, B. (1970). Meet Shaky, the first electronic person. Life,November, 58–68. Deng, S., Zhao, H., Fang, W., Yin, J., Dustdar, S., & Zomaya, A. Y. (2020). Edge intelligence: The confluence of edge computing and artificial intelligence. IEEE Internet of Things Journal,7(8), 7457–7469. Dennett, D. (2017). From Bacteria to Bach and Back: The Evolution of Minds. W. W. Norton & Company. Dignum, V. (2019). Responsible artificial intelligence: how to develop and use AI in a responsible way (Vol. 2156). Springer. Dıaz-Rodrıguez, N., Del Ser, J., Coeckelbergh, M., Prado, M. L. de, Herrera-Viedma, E., & Herrera, F. (2023). Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation. Information Fusion,99, 101896. Dorrestijn, S. (2012). The Product Impact Tool. Design for Usability Methods & Tools, 111– 119. Dorrestijn, S. (2024). Ethiek & Technologie, maar dan praktisch. Met bijdragen van de leden van het Saxion lectoraat Ethiek & Technologie. Ethiek & Technologie, Saxion University of Applied Sciences, Deventer. https://doi.org/10.5281/zenodo.12683806 Dwivedi, R., Dave, D., Naik, H., Singhal, S., Omer, R., Patel, P., Qian, B., Wen, Z., Shah, T., Morgan, G., e.a. (2023). Explainable AI (XAI): Core ideas, techniques, and solutions. ACM Computing Surveys,55(9), 1–33. Elkins, K., & Chun, J. (2020). Can GPT-3 pass a writer’s Turing test? Journal of Cultural Analytics,5(2). 54 Fast, E., & Horvitz, E. (2017). Long-term trends in the public perception of artificial intelligence. Proceedings of the AAAI conference on artificial intelligence,31. Frické, M. (2019). The knowledge pyramid: the DIKW hierarchy. Ko Knowledge organization, 46(1), 33–46. Fuegi, J., & Francis, J. (2003). Lovelace & Babbage and the creation of the 1843 ‘notes’. IEEE Annals of the History of Computing,25(4), 16–26. Gartner, Inc. (21 August 2024). Gartner 2024 Hype Cycle for Emerging Technologies Highlights Developer Productivity, Total Experience, AI and Security.https: //www.gartner.com/en/newsroom/press-releases/2024-08-21-gartner-2024-hype-cycle-foremerging-technologies-highlights-developer-productivity-total-experience-ai-and-security. Good, I. J. (1966). Speculations concerning the first ultraintelligent machine. In Advances in computers (Vol. 6, pp. 31–88). Elsevier. Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Courville, A., & Bengio, Y. (2014). Generative adversarial nets. Advances in neural information processing systems,27. Gu, J. (2024). Responsible generative ai: What to generate and what not. arXiv preprint arXiv:2404.05783. Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM computing surveys (CSUR), 51(5), 1–42. He, X., Zhao, K., & Chu, X. (2021). AutoML: A survey of the state-of-the-art. Knowledge-based systems,212, 106622. Heckerman, D. (1998). A tutorial on learning with Bayesian networks. Learning in graphical models, 301–354. Hofstadter, D. R. (1999). Gödel, Escher, Bach: an eternal golden braid. Basic books. Hospedales, T., Antoniou, A., Micaelli, P., & Storkey, A. (2021). Meta-learning in neural networks: A survey. IEEE transactions on pattern analysis and machine intelligence,44(9), 5149–5169. Huxley, J. (2015). Transhumanism. Ethics in Progress,6(1), 12–16. IEEE Spectrum. (2008). Tech Luminaries Address Singularity.https://spectrum-ieeeorg.saxion.idm.oclc.org/tech-luminaries-address-singularity. Ji, S., Pan, S., Cambria, E., Marttinen, P., & Philip, S. Y. (2021). A survey on knowledge graphs: Representation, acquisition, and applications. IEEE transactions on neural networks and learning systems,33(2), 494–514. Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature machine intelligence,1(9), 389–399. Jones, C. R., & Bergen, B. K. (2024). People cannot distinguish GPT-4 from a human in a Turing test. arXiv preprint arXiv:2405.08007. Kaelbling, L. P., Littman, M. L., & Moore, A. W. (1996). Reinforcement learning: A survey. Journal of artificial intelligence research,4, 237–285. Kerschke, P., Hoos, H. H., Neumann, F., & Trautmann, H. (2019). Automated algorithm selection: Survey and perspectives. Evolutionary computation,27(1), 3–45. Kraus, M., Fuchs, J., Sommer, B., Klein, K., Engelke, U., Keim, D., & Schreiber, F. (2022). 55 Immersive analytics with abstract 3D visualizations: A survey. Computer Graphics Forum, 41, 201–229. Kreuzberger, D., Kühl, N., & Hirschl, S. (2023). Machine learning operations (mlops): Overview, definition, and architecture. IEEE access,11, 31866–31879. Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). Imagenet classification with deep convolutional neural networks. Advances in neural information processing systems,25. Kumar, Y., Koul, A., Singla, R., & Ijaz, M. F. (2023). Artificial intelligence in disease diagnosis: a systematic literature review, synthesizing framework and future research agenda. Journal of ambient intelligence and humanized computing,14(7), 8459–8486. Kurzweil, R. (2005). The singularity is near. In Ethics and emerging technologies (pp. 393–406). Springer. Lasi, H., Fettke, P., Kemper, H.-G., Feld, T., & Hoffmann, M. (2014). Industry 4.0. Business & information systems engineering,6, 239–242. LeCun, Y. (1998). The MNIST database of handwritten digits.http://yann.lecun.com/exdb/ mnist/ LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature,521(7553), 436–444. LeCun, Y., Jackel, L., Bottou, L., Brunot, A., Cortes, C., Denker, J., Drucker, H., Guyon, I., Muller, U., Sackinger, E., e.a. (1995). Comparison of learning algorithms for handwritten digit recognition. International conference on artificial neural networks,60, 53–60. Lee, E. A. (2020). The coevolution: The entwined futures of humans and machines. Mit Press. Li, C., Gan, Z., Yang, Z., Yang, J., Li, L., Wang, L., Gao, J., e.a. (2024). Multimodal foundation models: From specialists to general-purpose assistants. Foundations and Trends® in Computer Graphics and Vision,16(1-2), 1–214. Liu, B. (2021). ”Weak AI” is Likely to Never Become ”Strong AI”, So What is its Greatest Value for us? arXiv preprint arXiv:2103.15294. Liu, Y., Zhang, K., Li, Y., Yan, Z., Gao, C., Chen, R., Yuan, Z., Huang, Y., Sun, H., Gao, J., e.a. (2024). Sora: A review on background, technology, limitations, and opportunities of large vision models. arXiv preprint arXiv:2402.17177. Luccioni, S., Jernite, Y., & Strubell, E. (2024). Power hungry processing: Watts driving the cost of AI deployment? The 2024 ACM Conference on Fairness, Accountability, and Transparency, 85–99. Macal, C. M. (2016). Everything you need to know about agent-based modelling and simulation. Journal of Simulation,10(2), 144–156. Mara, M., Stein, J.-P., Latoschik, M. E., Lugrin, B., Schreiner, C., Hostettler, R., & Appel, M. (2021). User responses to a humanoid robot observed in real life, virtual reality, 3D and 2D. Frontiers in psychology,12, 633178. Martınez-Plumed, F., Contreras-Ochando, L., Ferri, C., Hernández-Orallo, J., Kull, M., Lachiche, N., Ramırez-Quintana, M. J., & Flach, P. (2019). CRISP-DM twenty years later: From data mining processes to data science trajectories. IEEE transactions on knowledge and data engineering,33(8), 3048–3061. McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (2006). A proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955. AI magazine, 27(4), 12–14. 56 McDermott, D. (2007). Artificial intelligence and consciousness. The Cambridge handbook of consciousness, 117–150. Mitchell, M. (1998). An introduction to genetic algorithms. MIT press. Modha, D. S., Ananthanarayanan, R., Esser, S. K., Ndirango, A., Sherbondy, A. J., & Singh, R. (2011). Cognitive computing. Communications of the ACM,54(8), 62–71. Molnar, C. (2022). Interpretable machine learning. Independently published. Moor, J. (2006). The Dartmouth College artificial intelligence conference: The next fifty years. AI Magazine,27(4), 87–91. Newell, A., Shaw, J. C., & Simon, H. A. (1959). Report on a general problem solving program. IFIP congress,256, 64. Nishant, R., Kennedy, M., & Corbett, J. (2020). Artificial intelligence for sustainability: Challenges, opportunities, and a research agenda. International Journal of Information Management,53, 102104. Ntoutsi, E., Fafalios, P., Gadiraju, U., Iosifidis, V., Nejdl, W., Vidal, M.-E., Ruggieri, S., Turini, F., Papadopoulos, S., Krasanakis, E., e.a. (2020). Bias in data-driven artificial intelligence systems—An introductory survey. Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery,10(3), e1356. OpenAI. (2023). GPT-4 technical report. arXiv preprint arXiv:2303.08774. Pan, S., Luo, L., Wang, Y., Chen, C., Wang, J., & Wu, X. (2024). Unifying large language models and knowledge graphs: A roadmap. IEEE Transactions on Knowledge and Data Engineering. Penedo, G., Malartic, Q., Hesslow, D., Cojocaru, R., Cappelli, A., Alobeidli, H., Pannier, B., Almazrouei, E., & Launay, J. (2023). The RefinedWeb dataset for Falcon LLM: outperforming curated corpora with web data, and web data only. arXiv preprint arXiv:2306.01116. Pinar Saygin, A., Cicekli, I., & Akman, V. (2000). Turing test: 50 years later. Minds and machines,10(4), 463–518. Qin, X., Luo, Y., Tang, N., & Li, G. (2020). Making data visualization more efficient and effective: a survey. The VLDB Journal,29(1), 93–117. Reed, S., Akata, Z., Yan, X., Logeswaran, L., Schiele, B., & Lee, H. (2016). Generative adversarial text to image synthesis. International conference on machine learning, 1060–1069. Rojas, R. (1997). Konrad Zuse’s legacy: the architecture of the Z1 and Z3. IEEE Annals of the History of Computing,19(2), 5–16. Rosenblatt, F. (1958). The perceptron: a probabilistic model for information storage and organization in the brain. Psychological review,65(6), 386. Russell, S. J., & Norvig, P. (2016). Artificial intelligence: a modern approach (4th dr.). Pearson. Schmidhuber, J. (2007). Gödel machines: Fully self-referential optimal universal self-improvers. In Artificial general intelligence (pp. 199–226). Springer. Schreiner, M. (11 July 2023). GPT-4 architecture, datasets, costs and more leaked.https://thedecoder.com/gpt-4-architecture-datasets-costs-and-more-leaked/. Schröer, C., Kruse, F., & Gómez, J. M. (2021). A systematic literature review on applying CRISP-DM process model. Procedia Computer Science,181, 526–534. Seaborn, K., Barbareschi, G., & Chandra, S. (2023). Not only WEIRD but ‘uncanny’? A systematic review of diversity in Human–Robot Interaction research. International Journal 57