Kunstmatige intelligentie: boordevolle schatkist of een bak ellende?

Tijdens het goedbezochte Open AI: What’s in it for you-event op 12 september gaan publiek en sprekers samen op zoek naar wat kunstmatige intelligentie hun (wel/niet) te bieden heeft. AI-expert Jorn Bunk: “Programma’s als ChatGPT zijn geweldige woordvoorspellers. Maar verwacht er geen gouden kennisbergen van. Of een moreel kompas.”

[For English version, scroll down]

In Auditorium A3.04 aan de Ruitenberglaan 31 geeft hoofdspreker Jorn Bunk (foto boven) een verhelderend kijkje onder de motorkap van Artificial Intelligence. Om zo de aanwezige studenten en docenten, in hoofdzaak van de HAN International School of Business, beter beslagen ten ijs te laten komen. Want ze krijgen er sowieso allemaal mee van doen, elke dag meer. Welke kansen biedt dat? Maar ook: van welke problematische kanten moeten we ons bewust zijn?
Met een masterdiploma in AI en zeven jaar ervaring in het werkveld van AI en onderwijs, komt adviseur Leren met ICT Jorn Bunk vanmiddag graag klare wijn schenken over de impact van AI-technologie op het onderwijsveld, inclusief de HAN.

Mensenwerk
Zijn centrale boodschap: alles valt of staat ermee dat de mens, de gebruiker, in the lead blijft. “Van a tot z. In geval van ChatGPT: van de prompt, waarmee je om input vraagt, tot kritisch doorvragen op tussentijdse uitkomsten en, uiteindelijk, een kritische check op de output. Simpelweg het werk overlaten aan AI is geen optie. Dan vraag je om ethische, onderwijskundige en andere ongelukken.”

Nonsens
En daar heeft Bunk rake, vaak vermakelijke voorbeelden van: “Vraag je het programma bijvoorbeeld hoeveel vrouwelijke premiers Nederland heeft gehad, dan tovert ChatGPT er monter drie uit de digitale hoed. Onder wie Jan-Peter Balkenende. Voor de aanwezige internationale studenten: het juiste antwoord is: geen enkele. En Jan-Peter is inderdaad een jongensnaam.”

Napapegaaien
Wat ChatGPT wél kan? Bunk: “Indrukwekkend voorspellen wat het meest voor de hand liggende volgende woord zal zijn. Het legt vliegensvlug statistische relaties tussen een enorm aantal woorden.” Maar let op: dat levert nog geen kennis op, benadrukt Bunk. Want hoe overtuigend de resulterende lappen tikfoutvrije teksten ook mogen lijken, ze staan vaak vol verzinsels.

“ChatGPT is een bullshit generator: goed in taal, waardeloos in kennis”

Bunk: “Denk daarom niet als student: ha, ik kan ChatGPT mijn paper laten schrijven. Want misschien wil je vier argumenten voor een bepaalde theorie. Moeiteloos hoest je nieuwe AI-vriendje er vier op. Bij nader inzien blijken twee te kloppen, en twee er aan de haren bijgesleept. Misschien hoop jij, digitaal vaardige student, dat te ondervangen door telkens naar de gebruikte bronnen te vragen? Jammer, nu zit je nóg dieper in het moeras. Want ChatGPT verzint net zo makkelijk ook de bronnen. Het programma draait gewoon wat namen van vergelijkbare onderzoeken en bestaande onderzoekers op dit vlak in elkaar, en klaar is Kees. Niet, dus. Een gewaarschuwd student telt voor twee: ChatGPT is een stochastische papegaai, of minder netjes geformuleerd een bullshit generator: goed in taal, goed in overtuigen, slecht in feiten, waardeloos in kennis.”

Beeldvorming en bias
Andere AI-programma’s bakken er niet veel meer van. Bunk: “Als ik AI-beeldprogramma Midjourney vraag om plaatjes te genereren van een programmeur, krijg ik een stortvloed van afbeeldingen te zien van jonge, witte mannen met een baard en/of bril achter een laptop. Tsja, krijg dan maar eens jonge vrouwen, al dan niet van kleur, enthousiast voor een studie of baan in de techniek. Dit is, letterlijk, beeldbevestigend, het versterkt de hardnekkige vormen van bias die we, vaak onbewust, veelal al hebben. Dat krijg je ervan als je AI eenzijdig voedt met content grotendeels afkomstig van witte mannen.” Een structurele weeffout, aldus Bunk, die zich nauwelijks nog laat herstellen.

Slim, schoon, sociaal?
Dit telkens herproduceren en daarmee herbevestigen van onzinnige, bedenkelijke of zelfs verwerpelijke inhoud komt niet uit de lucht vallen. In de immense brei aan data waarmee AI-tekstgenerators worden getraind, komen veel haat, geweld, porno en discriminatie voor. “Techbedrijven proberen die eruit te filteren door mensen correcties te laten aanbrengen”, zegt Bunk. “In opdracht van het bedrijf Open AI spanden zich hier met name Keniaanse werknemers voor in, tegen een hongerloontje. Jawel, uitbuiting. Niet per se iets waarmee je je als sociale HAN graag wilt associëren. En schoon? Niet bepaald, als je alleen al kijkt naar de stroom slurpende datacenters. AI vréét energie. En slim, een bullshit generator? Juist, als hogeschool komen we met AI bij de eerste teen al in troebel water.”

Verstandige omgang
Bij alle bedenkingen breekt Bunk toch een lans voor een bewuste, zo goed mogelijke omgang met AI. Dan kan het ons zeker veel brengen. Zolang we het AI-instrumentarium maar ‘slimmer, schoner en socialer’ blijven maken. En zolang de mens maar in the lead blijft.

Workshops
Na de plenaire sessie duiken de deelnemers in een van vier workshops elders in het gebouw. Het keuzemenu in vogelvlucht: workshop 1: De ethiek en vooroordelen van Open AI; no. 2: Content creëren met Open AI; no. 3: Hoe u AI kunt gebruiken om uw taalvaardigheid te verbeteren; en 4: Potentiële impact van AI op verschillende industrieën.

“Als student doe je er goed aan om elke dag tien minuten het allerlaatste over AI tot je te nemen”

Rijden zonder risico’s?
De verslaggever kiest voor nummer 4. Daar splitsen de studenten en ook docenten zich al gauw verder op in subgroepjes om met (toekomstige) vakgenoten te sparren over wat in hun eigen deelgebied de AI-trends zijn en welke impact die zullen hebben op hun eigen rol in het geheel. Het automotive-subgroepje somt aan het eind een hele waslijst aan toepassingen op. Van AI als parkeerhulp of volwaardige bestuurder tot onderhoudschecks en auto-onderdelen bestellen terwijl je rijdt. Maar ze wijzen ook op privacy-risico’s. Bijvoorbeeld als alle gedragingen van de inzittenden nauwlettend geregistreerd en geanalyseerd worden.
In andere groepjes hetzelfde beeld, allemaal borrelen ze van de ideeën.

Blijf leren
Workshopleider Dirk van der Steenhoven geeft de studenten mee om “elke dag minstens tien minuten het allerbeste en allerlaatste over AI tot zich te nemen. En vergeet niet dat je je breed blijft ontwikkelen, met een open blik voor wat er in aanpalende werkvelden gebeurt. Want AI is ook daar niet meer weg te denken.”

Gespreksvoeding
De workshops zitten erop. AI gedijt vooral op een dieet van data en stroom. Op de deelnemers wacht gelukkig aangenamere voeding: een smakelijk oosters buffet in de kantine, ter afsluiting van deze inspiratiemiddag. Aan de vele gesprekken rond de tafels is te zien dat over dit onderwerp het laatste woord nog lang niet gesproken is.

Lees op HAN.nl meer over leren en werken met AI en ICT in het algemeen.

Lees op SAM ook wat medewerkers denken dat AI met hun baan gaat doen.

[English version:]

Artificial intelligence: full treasure chest or a bucket of misery?

HAN event Open AI: What’s in it for you

During the well-attended Open AI: What’s in it for you event on 12 September, the audience and speakers search together for what AI has to offer them. AI expert Jorn Bunk: “Programs like ChatGPT are great in predicting the next word. But don’t expect it to provide knowledge. Or a moral compass.”

In Auditorium A3.04 at Ruitenberglaan 31, keynote speaker Jorn Bunk gives an enlightening look under the hood of Artificial Intelligence. In order to make the students and teachers present, mainly from the HAN International School of Business, better prepared. Because AI will cross their professional paths, and more so every day. What opportunities does that offer? But also: what problematic sides should we be aware of? With a master’s degree in AI and seven years of experience in the field of AI and education, advisor Learning with ICT Jorn Bunk is happy to present this afternoon about the impact of AI technology on the educational field, including the HAN.

His central message: everything stands or falls with us, the users, remaining in the lead. “From A to Z. In the case of ChatGPT: from the prompt, with which you ask for input, to critical questioning of interim results and, ultimately, our critical check on the output. Simply leaving the work to AI is not an option. Then you ask for ethical, educational and other accidents.”

Nonsense
And Bunk has striking, often entertaining examples of this: “If you ask the program, for example, how many female prime ministers the Netherlands has had, ChatGPT conjures up three of them from the digital hat. Including Jan-Peter Balkenende. For the international students present: the correct answer is: none. And yes, Jan-Peter is a boy’s name.”

What programs like ChatGPT can do? Bunk: “Impressively predicting the next word. In a blink of an eye, it establishes statistical relationships between a huge number of words.” But beware: that does not yet provide knowledge, Bunk emphasizes. Because no matter how convincing the resulting pieces of typo-free texts may seem, they are often full of fabrications.

“ChatGPT is a bullshit generator: good at language, worthless at knowledge”

Bunk: “Therefore, as a student, don’t think: great, I can let ChatGPT write my paper. Because maybe you want four arguments for a particular theory. Effortlessly, your new AI friend coughs up four. On closer inspection, two turn out to be correct, and two come directly from Lalaland. Perhaps you, a digitally skilled student, hope to overcome this by asking for the sources used? Too bad, now you’re even deeper in the swamp. Because ChatGPT also invents the sources just as easily. The program simply puts together some names of similar studies and existing researchers in this field. Job done? I don’t think so. Never forget: ChatGPT is a stochastic parrot, or less neatly worded a bullshit generator: good at language, good at persuasion, bad at facts, worthless at knowledge.”

Imaging and bias
Other AI programs are not performing any better. Bunk: “When I ask AI image program Midjourney to generate images of a programmer, I get a flood of images of young, white men with a beard and/or glasses behind a laptop. Not exactly an invitation for young women, of any color, to start with a study or job in technology, is it? This is, literally, image-affirming, it reinforces the persistent forms of bias that we, often unconsciously, already have. That’s what you get when you predominantly feed AI with content created by white men.” A structural weaving error, according to Bunk, which can hardly be repaired.

Smart, clean, social?
This phenomenon that nonsensical, questionable or even objectionable content is reproduced and thus reaffirmed, does not just fall from the sky. In the immense amount of data used to train AI text generators, there is a lot of hate, violence, porn and discrimination. “Tech companies are trying to filter those out by having people make corrections,” Bunk says. “For Open AI, Kenyan employees in particular made an effort here, at starvation wages. Yes, exploitation, indeed. Not necessarily something you want to associate yourself with as a social HAN. And clean? Not exactly, if you just look at the power-guzzling data centers. AI is consuming enormous amounts of energy. And smart? A bullshit generator? Face it, as a university of applied sciences, we are already at the first toe getting into murky water with AI.”

Sensible handling
Nevertheless, with all reservations, Bunk still advocates a conscious, as good as possible handling of AI. Then it can certainly bring us a lot. As long as we continue to make the AI tools “smarter, cleaner and more social”. And as long as humans stay in the lead.

Workshops
After the plenary session, participants dive into one of four workshops elsewhere in the building. The menu at a glance: workshop 1: The ethics and prejudices of Open AI; no. 2: Creating content with Open AI; No. 3: How you can use AI to improve your language skills; and 4: Potential impact of AI on different industries.

“Students would do well to take in the very last about AI for at least ten minutes every day”

Driving without risks?
The reporter chooses number 4. In the workshop, the students and lecturers quickly split further into subgroups to spar with (future) colleagues about what the AI trends are in their own sub-area and what impact these trends will have on their own role and tasks. At the end of this assignment, the automotive subgroup lists a whole laundry list of applications. From AI as a parking aid or full-fledged driver to maintenance checks and ordering car parts while you drive. But they also point to privacy risks, for example when human behaviour in the car is closely recorded and analysed.
The other groups show similar enthusiasm for the assignment. They are all bubbling with ideas.

Never stop learning
Workshop leader Dirk van der Steenhoven tells the students to “take in the very best and very last about AI for at least ten minutes every day. And don’t forget that you continue to develop broadly, with an open mind for what is happening in adjacent fields. Because AI is gaining ground everywhere, every day.”

Food for thought
The workshops are over. AI thrives primarily on a diet of data and electricity. Fortunately, more pleasant food awaits the participants: a tasty oriental buffet in the canteen, to conclude this inspirational afternoon. The many conversations around the tables show that the last word on this subject is far from being spoken.

Read  more about learning and working with AI and ICT in general (in Dutch) on HAN.nl.