Sinds de komst van Chat GPT lijkt de hele wereld in de ban van kunstmatige intelligentie. Het is om gek van te worden. Big Tech-bedrijven waarschuwen dat de mensheid uitgeroeid kan worden door AI, terwijl zij zelf rond AI een heftige concurrentiestrijd met elkaar uitvechten. Dezelfde bedrijven zeggen namelijk ook dat AI de mensheid een glorieuze toekomst kan brengen.
Beide visies slaan nergens op. Kunstmatige intelligentie is indrukwekkend, maar ook een heel stuk dommer dan jij denkt.
Mijn naam is Ilyaz Nasrullah. Ik ben een informaticus met een achtergrond in data science. Ik adviseer bedrijven, onderwijs- en onderzoeksinstellingen en overheden over digitale technologie in het algemeen, en kunstmatige intelligentie in het bijzonder.
In deze podcast neem ik je mee in de wereld achter het chatvenster. In zes gesprekken met zes experts hoor je alles wat Big Tech niet vertelt, maar jij wél moet weten over kunstmatige intelligentie.
Van de werking van Chat GPT tot het wereldbeeld van de makers van AI. Hoe ziet de toekomst van ons werk eruit, waarom worden mensen verliefd op chatbots, en wat zijn écht de kansen en bedreigingen van deze technologie? Laat je niet langer misleiden door domme software die zich slim voordoet. Welkom, in de AI-fabriek.
Over crypto wordt wel eens gezegd: "Alles wat je niet begrijpt over geld, gecombineerd met alles wat je niet begrijpt over computers." Dit vat precies samen hoe journalist Elke van Boxmeer zich voelt als het over crypto gaat. In deze serie duikt Elke in de wereld van cryptocurrency en onderzoekt ze de tien belangrijkste personen die deze raadselachtige industrie hebben gevormd. Van helden tot whizzkids en oplichters—ze komen allemaal voorbij tijdens Elkes reis door Cryptoland.
Elke in Cryptoland (https://open.spotify.com/show/6Yoz6KUQKNCwE7IqvRSagB?si=SGsxaGK1Rq2ykHTMMcPftw&nd=1&dlsi=e1bf8f4172be455e) is een podcast van BNR, (https://www.bnr.nl/podcast/achterhetvermogen) mede mogelijk gemaakt door cryptodienstverlener Amdax (https://amdax.com/nl).
Over de makers
Presentatie: Elke van Boxmeer
Redactie: Wouter Hoes
Muziek en sounddesign: Gijs Friesen
Montage en mixage: Wesley Schouwenaars
Eindredactie: Manon van der Knaap-Hartig
Scriptcoaching: Simon Heijmans
Projectmanagement: Zegert van der Linde
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
20 Oct 2023
6. AI gaat ons niet uitroeien. Waar moet je wel bang voor zijn?
De waarschuwingen over AI vliegen ons om de oren: kunstmatige intelligentie gaat de mensheid uitroeien. Maar die waarschuwingen komen niet van tegenstanders van AI, maar van de makers! Geloven ze dat zelf? Nauwelijks. Die conclusie is makkelijk te trekken, want tot een stop van de ontwikkelingen van deze systemen leidt het namelijk niet.
Wel geeft dit geloof in de zogenoemde existentiële risico’s van AI ons een goed inkijkje in de ideologie van AI-ontwikkelaars. Wat is die ideologie precies? En is die ideologie stiekem niet gevaarlijker dan de technologie zelf?
Ik praat hierover met Siri Beerends (https://www.linkedin.com/in/siri-beerends/?originalSubdomain=nl), cultuursocioloog en onderzoeker bij medialab Setup. Ook is zij onderzoeker aan de universiteit Twente en zij schrijft over de subcultuur die rond kunstmatige intelligentie is ontstaan.
Shownotes:
Het onderzoek The Values Encoded in Machine Learning Research (https://dl.acm.org/doi/10.1145/3531146.3533083)
Current Affairs over het gevaar van longtermism (https://www.currentaffairs.org/2021/07/the-dangerous-ideas-of-longtermism-and-existential-risk)
Van Siri's Beerends hand:
Over de onzin van de waarschuwing dat AI de wereld gaat vernietigen (https://www.setup.nl/artikelen/waarom-we-een-ai-bullshit-pauze-nodig-hebben/)
Over de onzin van brain uploading (https://www.vn.nl/digitale-onsterfelijkheid/)
Over het mechanistische wereldbeeld (https://www.groene.nl/artikel/het-opgelegde-mensbeeld)
Over hoe AI onze opvatting van intelligentie beïnvloedt (https://www.nrc.nl/nieuws/2023/06/08/gereduceerd-tot-het-eeuwige-hulpje-van-ai-a4166718)
Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.
Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio (https://www.bnr.nl/) en Trouw (https://www.trouw.nl/). Gemaakt door mij, Ilyaz Nasrullah (https://www.linkedin.com/in/ilyaznasrullah/?originalSubdomain=nl), met de onmisbare hulp van Connor Clerx.
De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
20 Oct 2023
5. AI is bevooroordeeld. Wiens schuld is dat?
Het was bedoeld als een leuk experiment, maar werd één van de grootste PR-rampen uit de tech-geschiedenis. Tay, de chatbot die Microsoft in 2016 lanceerde op Twitter. Al na zestien UUR moest Microsoft de stekker uit de chatbot trekken.
Want Tay veranderde in die korte tijd van een simulatie van een Amerikaanse tiener, in een nazistische, racistische en seksistische chatbot. Zo tweette Tay: “Bush heeft 11 september gedaan, en Hitler zou het beter doen dan de aap – verwijzend naar Barack Obama – die we nu hebben. Trump is onze enige hoop”.
Dit fiasco is van blijvende invloed geweest op de ontwikkeling van chatbots, ook op die van ChatGPT. Tay laat namelijk zien hoe snel vooroordelen in chatbots sluipen.
Ik ga in gesprek met Cynthia Liem. (https://www.linkedin.com/in/cynthialiem/?originalSubdomain=nl) Zij is onderzoeker op het gebied van betrouwbare en verantwoorde kunstmatige intelligentie aan de TU Delft. Cynthia is bekend van haar analyse van de fraudedetectie-algoritmen die de Belastingdienst gebruikte in het toeslagenschandaal. Wij kennen elkaar nog van onze studie.
Met haar bespreek ik hoe Tay zo kon ontsporen, soortgelijke incidenten en alle lessen die wij moeten trekken uit deze voorvallen.
Shownotes:
Over ImageNet Roulette (https://www.artsy.net/article/artsy-editorial-online-image-database-will-remove-600-000-pictures-art-project-revealed-systems-racist-bias) (bias in beeldherkenningsoftware)
Wired over adverserial attacks (https://www.wired.com/story/ai-adversarial-attacks/)
Van Cynthia’s hand:
Han-yin Huang en Cynthia Liem over wat de AI-wereld kan leren van musea (https://research.tudelft.nl/en/publications/social-inclusion-in-curated-contexts-insights-from-museum-practic)
Over hoe ChatGPT ons berooft van waardevol denkwerk (https://www.trouw.nl/tijdgeest/chatgpt-berooft-ons-van-waardevol-denkwerk-wanneer-zijn-we-gestopt-met-ergens-moeite-voor-doen~bda521b4/)
Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.
Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio (https://www.bnr.nl/) en Trouw (https://www.trouw.nl/). Gemaakt door mij, Ilyaz Nasrullah (https://www.linkedin.com/in/ilyaznasrullah/?originalSubdomain=nl), met de onmisbare hulp van Connor Clerx.
De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
20 Oct 2023
4. ChatGPT heeft jou nodig. Stelen de makers van je?
Een toekomst waarin we geen saai werk meer doen. Waarin we ons alleen nog bezighouden met dingen die er écht toe doen, en tegelijk nóg productiever zijn. Dat is wat makers van generatieve AI als ChatGPT en MidJourney ons beloven.
OpenAI, het bedrijf achter ChatGPT, zegt bijvoorbeeld: “we kunnen ons een wereld voorstellen waarin iedereen toegang heeft tot hulp bij bijna iedere cognitieve taak, een grote vermenigvuldiger van menselijk vernuft en creativiteit”.
Hoe geloofwaardig is dit? En welke prijs betaalt de samenleving voor deze boost in productiviteit?
Er is geen betere plek om deze vragen te verkennen dan de videogame-industrie. Het ontwikkelen van een game is namelijk de enige plek waarin alles wat generatieve AI kan samenkomt. Deze tools kunnen grafisch ontwerpen, animeren.. dialoog en verhalen schrijven, muziek componeren en zelfs broncode leveren. Daarnaast omarmt de game-industrie technologische ontwikkelingen snel, en is zowel creativiteit, als hoge productiviteit noodzakelijk in deze hypercompetitieve wereld.
Over de impact van generatieve AI op het werk ga ik in gesprek met Rami Ismail, één van de bekendste videogame-ontwikkelaars ter wereld en ambassadeur van de videogame-industrie. Een industrie waarvan nog wel eens wordt onderschat hoeveel werk er eigenlijk in wordt verricht.
Shownotes:
Rami over hoe je de videogame- en tech-industrie eerlijker maakt (https://waag.org/en/article/game-changer-1-rami-ismail-and-inequality-gaming-industry/)
The Atlantic over Books3 (https://www.theatlantic.com/technology/archive/2023/08/books3-ai-meta-llama-pirated-books/675063/)
IEEE Spectrum over model collapse (https://spectrum.ieee.org/ai-collapse)
Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.
Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio (https://www.bnr.nl/) en Trouw (https://www.trouw.nl/). Gemaakt door mij, Ilyaz Nasrullah (https://www.linkedin.com/in/ilyaznasrullah/?originalSubdomain=nl), met de onmisbare hulp van Connor Clerx.
De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
20 Oct 2023
3. AI verandert de samenleving. Hoe kijken de makers naar de wereld?
Chatbots zijn een rare uitvinding. Tegen een computer praten kan nuttig zijn. Maar met een computer praten, waar is dat goed voor? Die vraag wil ik beantwoorden. En dan ontkom je niet aan Alan Turing. De vader van mijn vakgebied - de informatica. Turing geloofde dat je een computer als intelligent moet zien, wanneer deze kan praten als een mens, en mét een mens.
Daarom bedacht hij in 1950 een experiment. The Imitation Game. Een test waarin een computer zich voor moet doen als mens. Het idee van de chatbot was geboren.
Maar, is taalvaardigheid wel een bewijs van intelligentie? Moderne chatbots als ChatGPT lijken te toveren met woorden, maar het beantwoorden een simpele vraag als “wat is het zevende woord in deze zin” gaat vaker fout dan goed. Laat dit niet juist zien dat Turing het mis had? En welk gevaar schuilt er in het geloof in de intelligentie van chatbots?
Daarover ga ik in gesprek met Felienne Hermans (https://www.linkedin.com/in/felienne/?originalSubdomain=nl), hoogleraar Computer Science Education aan de Vrije Universiteit Amsterdam. Felienne weet als geen ander hoe informatici denken, en in welke valkuilen wij stappen.
We starten ons gesprek bij een zorg die ze eerder in de Volkskrant uitte. Om te citeren: Wilt u 50 euro extra betalen voor een mens? Toets 1.
Shownotes:
Turings paper waarin hij The Imitation Game introduceert (https://academic.oup.com/mind/article-pdf/LIX/236/433/9866119/433.pdf)
The Guardian over de zoektocht naar mechanisch leven (https://www.theguardian.com/books/2002/feb/16/extract.gabywood) (incl. de mechanische poepende eend van De Vaucanson)
Felienne raadt aan:
Het boek Teaching Machines van Audrey Waters
De nieuwsbrief Computer Things van Hillel Wayne (https://buttondown.email/hillelwayne/)
Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.
Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio (https://www.bnr.nl/) en Trouw (https://www.trouw.nl/). Gemaakt door mij, Ilyaz Nasrullah (https://www.linkedin.com/in/ilyaznasrullah/?originalSubdomain=nl), met de onmisbare hulp van Connor Clerx.
De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
20 Oct 2023
2. Verliefd op een chatbot. Hoe kan dat?
Het overkomt je tijdens het lezen van een boek: Je begint je in te leven in de hoofdpersoon. Je voelt emoties, echte emoties, zoals verdriet, opluchting, boosheid, vreugde… en dat is bijzonder, want de personages zijn nep. Ze bestaan alleen op papier, en in onze beleving.
Dat wij tot zoveel empathie in staat zijn – dat we zelfs kunnen meeleven met personages die niet bestaan – is onze kracht. Maar het is een kracht die in een zwakte verandert wanneer we met chatbots praten.
Om met de woorden van informaticus Joseph Weizenbaum te spreken: er schuilt hier een zeker gevaar in. Weizenbaum maakte in de jaren ’60 ELIZA, de eerste chatbot die menselijk overkwam op gebruikers. Dat ELIZA menselijk overkwam, schokte Weizenbaum. Waarom? Welke gevaren zag hij 60 jaar geleden al?
Ik bespreek dit met Oumaima Hajri (https://www.linkedin.com/in/oumaima-hajri/?originalSubdomain=nl), onderzoeker en docent verantwoorde kunstmatige intelligentie aan de Hogeschool Rotterdam. De waarschuwing van Weizenbaum blijkt relevanter dan ooit, nu bedrijven chatbots aanbieden als levenspartners en voor rouwverwerking. Net als Weizenbaum, is Oumaima kritisch op alle AI-toepassingen waar emotie een rol in speelt.
Shownotes:
The Guardian over het leven van Joseph Weizenbaum (https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai)
Weizenbaum introduceert ELIZA (https://dl.acm.org/doi/pdf/10.1145/365153.365168)
MIT Technology Review over chatbots voor rouwverwerking: (https://www.technologyreview.com/2022/10/18/1061320/digital-clones-of-dead-people/) / (https://www.technologyreview.com/2022/10/18/1061320/digital-clones-of-dead-people/)
NRC over relaties met chatbots (https://www.nrc.nl/nieuws/2023/08/04/deze-mensen-hebben-een-relatie-met-een-chatbot-ze-veroordeelt-niet-en-vertelt-niets-door-a4171168)
Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.
Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio (https://www.bnr.nl/) en Trouw (https://www.trouw.nl/). Gemaakt door mij, Ilyaz Nasrullah (https://www.linkedin.com/in/ilyaznasrullah/?originalSubdomain=nl), met de onmisbare hulp van Connor Clerx.
De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
20 Oct 2023
1. ChatGPT wordt niet veel beter meer. Waar komt dat door?
Iedere voldoende geavanceerde technologie, is niet van magie te onderscheiden. Dat schreef de Britse science-fictionschrijver Arthur C. Clarke. Software zoals ChatGPT komt op veel mensen inderdaad als magie over. Hoe kan het, dat een computertaal weet te produceren, die zó op die van echte mensen lijkt?
De wiskunde is omslachtig, maar het concept achter ChatGPT is eigenlijk best goed te begrijpen. En als je het concept snapt, dán ontdek je dat ChatGPT geen magie is, maar een illusie.
Hoe bruikbaar is deze illusie, en wat kost het om hem in stand te houden? Kan ChatGPT eigenlijk nog wel beter worden, of is dit het?
Pascal Wiggers (https://www.linkedin.com/in/pascalwiggers/?originalSubdomain=nl) is lector verantwoorde kunstmatige intelligentie aan de Hogeschool van Amsterdam. Als student heb ik nog les van hem gehad, het vak spraakherkenning. Pascal is expert op het gebied van taalmodellen, en daarom een uitstekende gast om deze podcast mee af te trappen. Als je zo’n ingewikkeld onderwerp wil doorgronden, kun je het best beginnen bij de basis. De werking van ChaptGPT.
Shownotes:
Microsoft over de supercomputer achter ChatGPT (https://www.youtube.com/watch?v=Rk3nTUfRZmo)
Wolfram over de werking ChatGPT (https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/)
Trouw over hoe de vraag naar hardware leidt tot een grondstoffenconflict in Taiwan (https://www.trouw.nl/buitenland/hoe-de-taiwanese-boer-het-verliest-van-de-chipindustrie~b6b0f0b1/)
Time over klikwerk in Kenia (https://time.com/6247678/openai-chatgpt-kenya-workers/)
The Verge over klikwerk in Kenia (https://www.theverge.com/features/23764584/ai-artificial-intelligence-data-notation-labor-scale-surge-remotasks-openai-chatbots)
The Guardian over het verschil tussen hersens en machines (https://www.theguardian.com/science/2020/feb/27/why-your-brain-is-not-a-computer-neuroscience-neural-networks-consciousness)
Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.
Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio (https://www.bnr.nl/) en Trouw (https://www.trouw.nl/). Gemaakt door mij, Ilyaz Nasrullah (https://www.linkedin.com/in/ilyaznasrullah/?originalSubdomain=nl), met de onmisbare hulp van Connor Clerx.
De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
17 Oct 2023
Trailer - Welkom in de AI-Fabriek
Sinds de komst van ChatGPT lijkt de hele wereld in de ban van kunstmatige intelligentie. Het is om gek van te worden. Big Tech-bedrijven waarschuwen dat de mensheid uitgeroeid kan worden door AI, terwijl zij zelf rond AI een heftige concurrentiestrijd met elkaar uitvechten. Dezelfde bedrijven zeggen namelijk ook dat AI de mensheid een glorieuze toekomst kan brengen.
Beide visies slaan nergens op. Kunstmatige intelligentie is indrukwekkend, maar ook een heel stuk dommer dan jij denkt.
Mijn naam is Ilyaz Nasrullah. Ik ben een informaticus met een achtergrond in data science. Ik adviseer bedrijven, onderwijs- en onderzoeksinstellingen en overheden over digitale technologie in het algemeen, en kunstmatige intelligentie in het bijzonder.
In deze podcast neem ik je mee in de wereld achter het chatvenster. In zes gesprekken met zes andere experts hoor je alles wat Big Tech niet vertelt, maar jij wél moet weten over kunstmatige intelligentie.
Van de werking van ChatGPT tot het wereldbeeld van de makers van AI. Hoe ziet de toekomst van ons werk eruit, waarom worden mensen verliefd op chatbots, en wat zijn écht de kansen en bedreigingen van deze technologie? Laat je niet langer misleiden door domme software die zich slim voordoet. Welkom, in de AI-fabriek.
Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx.
De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.
See omnystudio.com/listener (https://omnystudio.com/listener) for privacy information.
Reach and audience
Public platform figures. Ratings count people who left a rating, not total listeners.
Apple Podcasts (US)
5.0 / 5
1 ratings
Spotify
4.2 / 5
66 ratings
Contact Welkom in de AI-fabriek | BNR
Guest appearances
Does not typically book guests
Based on episode analysis; this does not confirm that the show is currently accepting guests.
Pod Engine is an independent podcast discovery and analytics service and is not affiliated with or endorsed by this podcast. Artwork and show content belong to their owners. Full legal notice.
Explore this show Podcast research with Pod Engine
