ChatGPT van OpenAI is een groot gevaar voor wie wil leren denken. De app vervuilt niet alleen het internet met grote hoeveelheden loze woorden.
Ze daagt onze kinderen ook nog eens NIET uit tot nadenken.
En nadenken is het grootste goed dat we kunnen verwerven, nietwaar?
Alleen door nadenken kunnen we ons verweren tegen ongefundeerde onzin, complottheorieën en argwaan tegen de wetenschap.
Taalmodellen
In de computerlinguïstiek, waarin ik lang geleden mocht studeren en werken, strijden twee benaderingen met elkaar: de realistische en de instrumentalistische.
De realistische benadering probeert modellen van de taal te maken die een verklaring geven van de taalverschijnselen. Om de taal beter te begrijpen. Denk aan de Transformationeel Generatieve Grammatica van Chomsky en consorten, die proberen ons taalvermogen te modelleren.
De instrumentalistische benadering probeert modellen van de taal te maken die zo goed mogelijk presteren. De verklaring van hoe dat nu werkt, verdwijnt hier naar de achtergrond. Denk aan de statistische taalmodellen die getraind worden met Big Data, zoals ChatGTP, die “goed” werken, maar ons begrip van de taal niet vergroten.
Levensgevaarlijke tekstrobots
In 2019 schreef ik al over de gevaren van de tekstrobot ChatGPT van OpenAI. Het internet komt hierdoor nog voller te staan met onzin, de echokamers en filterbubbles worden holler en holler en de zoekmachines raken verstopt met loze informatie.
Onze kinderen
Hoe moeten wij – en onze kinderen – hiermee omgaan? Leraren kunnen nu nog maar amper de producties van hun leerlingen onderscheiden van de werkstukken die met hulp van OpenAI geproduceerd zijn.
De wanhopige suggestie om leerlingen dan maar te laten schrijven met pen op papier, raakt kant noch wal. Het is voor fraudeurs en fraudeurtjes heel eenvoudig om de producten van OpenAI over te pennen en lachend in te leveren als hun eigen werkstuk.
De oplossing, de opdracht
Neen, de oplossing ligt in de motivatie. Wil je de wereld echt begrijpen? Probeer dan samen met je medeleerlingen en -onderzoekers uit te vinden hoe de dingen in elkaar steken.
Probeer te begrijpen, te denken.
De opdracht – en de uitdaging – van de leraren nu is dus: oefen het denken en motiveer je leerlingen daartoe. Wil je denken? Denk dan mee!
Enkele voorbeelden
Kijk hier naar enkele opdrachten die ik ChatGPT van OpenAI gaf en analyseer de resultaten https://www.rijkwillemse.nl/downloads/ChatGTP_aan_het_wekr.pdf. Op het eerste gezicht lijkt het redelijk, maar wie doordenkt… Die denkt: wat voegt het eigenlijk toe?
Lees ook: Tien teksten tegen teloorgang https://www.rijkwillemse.nl/downloads/Helder_Denken_-_Tien_Teksten_Tegen_Teloorgang-v2.pdf.
Reactie Pieter van Engelen
Alles wat met neurale netwerken te maken heeft, veroorzaakt in mijn ogen een regressie naar de middenmaat. Vervlakking en uitholling van betekenis als gevolg. De ChatGPT zijn bijna hilarisch slecht. Het pijnlijke is dat je domeinkennis moet hebben om de gaten erin te schieten. Een jazzfestival in Arnhem is misschien nog niet zo’n slecht idee…
En laten we wel wezen, ChatGPT is in feite ook een formeel systeem. En daarom volgens zichzelf onvolledig. QED. Gödel draait zich om in z’n graf…