Danske folkeskoler får Google AI som standardværktøj - uden debat eller samtykke
Dataetisk Tænkehandletank retter et stærkt opråb mod den stiltiende indførelse af Google Gemini-chatbots på danske folkeskolers computere.
Mie Oehlenschlager og Pernille Tranberg, fremhæver en bekymrende tendens: AI-chatbots er tilsyneladende blevet gjort tilgængelige for skolebørn uden forudgående offentlig debat eller forældresamtykke.
Sagen kom frem, da en far til skolebørn i Helsingør opdagede, at hans børn helt ned til 6-års alderen havde fået fri adgang til Gemini via skolens Chromebooks.
Det overraskende var ikke kun tilstedeværelsen af dette kraftfulde AI-værktøj, men også at hverken lærere, skoleledelse eller myndigheder syntes at have retningslinjer for brugen eller tilstrækkelig viden om teknologien.
Bekymringer om læring og udvikling
Forfatterne fremhæver flere bekymringer, hvor den vigtigste er AI's potentielle indvirkning på børns læring af grundlæggende færdigheder. Gemini kan nemlig:
- Hjælpe med at skrive tekster og præsentationer
- Give feedback og redigere arbejde
- Generere idéer og kreativt indhold
- Skabe tilpassede læringsoplevelser
- Oversætte og forklare sproglige udtryk
Dette rejser spørgsmålet om, hvorvidt børn vil miste incitamentet til at lære grundlæggende færdigheder, når de kan få AI til at gøre arbejdet for dem.
Dertil kommer problemet med AI-hallucinationer, hvor faktuel korrekthed ikke altid er garanteret.
AI som "mentor"?
Særligt bekymrende er idéen om, at AI-chatbots kan fungere som "mentorer" for børn.
Gemini beskriver selv, hvordan det kan fungere som en "digital mentor" gennem direkte dialog.
Forfatterne påpeger, at chatbots er designet til at maksimere brugerengagement og profit, ikke til at varetage børns udvikling.
Tidligere tilfælde har vist, hvordan mennesker kan udvikle uhensigtsmæssige følelsesmæssige tilknytninger til chatbots, med potentielt alvorlige konsekvenser for mental sundhed.
Manglende aldersverifikation
Mens der er fokus på aldersgrænser for sociale medier i Danmark (snart 15 år), er der endnu ikke tilsvarende regler for AI-chatbots.
I modsætning til f.eks. Tyskland og Frankrig, hvor GDPR's aldersgrænse på 16 år ofte anvendes, synes Danmark at mangle en klar regulering af børns adgang til generative AI-værktøjer.
Tænkehandletanken advarer om, at vi risikerer at gentage fortidens fejl med sociale medier, hvor reguleringen først kom, efter skaden var sket.
De opfordrer til handling nu, før lignende problemer opstår med generativ AI i børns hænder.
- rh
