Hoe de Baldwin-test manipulatie ontmaskert door aanbieders van educatieve technologie en platforms

Pakketten voor opleidingen, trainingen, cursussen en andere educatie worden zo cryptisch omschreven dat opleiders nauwelijks nog kunnen doorzien wat de werkelijke potentie ervan is en welke beperkingen eraan verbonden zijn.

Pogingen om via taal macht uit te oefenen

Zo hekelde onderwijswetenschapper Ben Williamson van de Universiteit van Edinburg de marketing van de nieuwe AI-functie van Google Classroom. De technologie werd als Google-magic aangeprezen. “Het discours van magische AI verdoezelt de complexe sociale, economische, technische en politieke inspanningen die betrokken zijn bij de ontwikkeling ervan, verbergt de interne mechanismen en verhult de bredere effecten van dergelijke systemen”, fulmineerde Williamson hierover

In het rijtje van boze taalwetenschappers schaarde zich ook Emily Bender, directeur van het Center on Privacy and Technology van Georgetown Law in de VS. Zij is vooral verontwaardigd over pogingen van techbedrijven om via taal macht uit te oefenen. “Als we ons vermogen om door computers gegenereerde taal te verwarren met het feit dat de computers ‘denkende’ entiteiten zijn, lopen we het risico de macht af te staan . Niet aan computers, maar aan degenen die zich achter het gordijn verschuilen.”

De Baldwin-test ontrafelt de werkelijke betekenis

Om de manipulatieve marketing rond opleidingstechnologie te neutraliseren, bedacht Charles Logan een oplossing. Hij is PhD-student aan de Amerikaanse Northwestern University. Logan gebruikt de zogenaamde Baldwin-test, vernoemd naar de Amerikaanse schrijver James Baldwin (1924-1987). Met deze test is in vier stappen de werkelijke betekenis van een tekst te ontrafelen, ontdaan van alle manipulatie. Logan heeft daar drie stappen aan toegevoegd.

Door deze test toe te passen op educatieve softwarepakketten ontdekte hij bijvoorbeeld dat de toezegging twijfelachtig is dat gebruikers van Google Apps for Education eigenaar zijn van hun gegevens. “Het bedrijf maakt het moeilijk om het onderscheid te maken tussen de gegevens van cursist en de verzamelde informatie in Google Apps for Education”, constateerde Logan. Over een pakket voor proctoring software ontdekte hij dat het een product is van het softwarebedrijf Honorlock dat software van Amazon voor gezichtsherkenning gebruikt.

Eigenschappen definiëren gebaseerd op openbare informatie

De Baldwin-test komt neer op het opnieuw definiëren van eigenschappen van de technologie die voor de gebruiker van belang kunnen zijn, gebaseerd op openbare informatie.

1. Vertel zo specifiek mogelijk over wat de technologie in kwestie is en hoe deze werkt.
2. Identificeer obstakels om de technologie te begrijpen die het gevolg zijn van onvoldoende transparantie van de afzender.
3. Identificeer de bedrijven die verantwoordelijk zijn voor het creëren en verspreiden van het technologische product.
4. Achterhaal welke mogelijkheden de gebruiker heeft om tot een resultaat te komen ten opzichte van wat de technologie voorschrijft aan oplossingen.
5. Noem de leertheorie (of theorieën) waarop de technologie is gebaseerd.
6. Beschrijf de invloed van de technologie op de manier van onderricht of pedagogiek.
7. Check wat de input is van de technologie op het milieu.