Verantwoorde AI

Slimme ondersteuning in Leyra helpt bij werk dat veel tijd kost of veel informatie vraagt: informatie samenvatten, patronen zichtbaar maken, lessen voorbereiden, differentiatie voorstellen, oefeningen maken of kiezen, lesstof uitleggen, oudergesprekken voorbereiden en signalen onder de aandacht brengen. Voor leerlingen helpt een leermaatje bij het redeneren, zonder meteen het antwoord te geven.

Veel schoolsoftware zet een algemene chatbot naast het bestaande systeem. Leyra werkt anders: de intelligentie is een laag onder de dagelijkse werkstroom van de school. Ze doet haar werk op de plek waar het nodig is, met de context van dat moment, en binnen de grenzen die de school heeft ingesteld.

1. Mensgeeft context en een vraag: een leerkracht die de groep kent, een kind dat eerst zelf nadenkt
2. Leyraordent, analyseert, bereidt voor en stelt voor
3. Mensbeoordeelt, past aan en beslist

Aan het begin en aan het eind staat altijd een mens. Leyra is geen zelfstandige beslisser over kinderen.

Een AI-taak krijgt alleen de gegevens die nodig zijn om die taak goed uit te voeren. Wie een rekenles voorbereidt, heeft leerdoelen en recente rekenresultaten nodig, geen gegevens over de thuissituatie. Wie een bericht aan ouders opstelt, heeft de kern van het bericht nodig, niet het volledige leerlingdossier. Zo beperken we wat er naar een taalmodel gaat tot het noodzakelijke.

Leyra kan uit leerdoelen, resultaten, oefeningen en observaties een doorlopend beeld van de ontwikkeling van een kind opbouwen. Dat beeld is een hulpmiddel voor de leerkracht, geen objectieve of blijvende beoordeling. Kinderen ontwikkelen zich grillig, en wat vandaag lastig is, kan over een maand vanzelfsprekend zijn.

Leyra plakt daarom geen labels op kinderen, stelt geen diagnoses en spreekt niet in voorspellingen over wie een kind later wordt. Een leerkracht kan het beeld altijd aanvullen of corrigeren.

Belangrijke acties waarbij AI heeft geholpen, moeten achteraf te volgen zijn, zodat een school kan zien hoe een beslissing tot stand kwam. Daarvoor leggen we per actie de kern vast:

Doel

waarvoor de ondersteuning werd ingezet

Invoer

welke soorten gegevens zijn gebruikt

Model

welk AI-model is gebruikt, waar relevant

Uitkomst

het voorstel dat Leyra deed

Mens

wie het beoordeelde en wat die besloot

Tijdstip

wanneer dit gebeurde

Dat betekent niet dat we elke volledige vraag aan een taalmodel, met alle leerlinggegevens erin, onbeperkt bewaren. Vastleggen gebeurt met dezelfde terughoudendheid als de rest van de gegevensverwerking.

Generatieve AI kan zich vergissen, kan context missen die een leerkracht wel kent, en kan overtuigend klinken zonder gelijk te hebben. Stelligheid is geen correctheid. Materiaal dat Leyra maakt, wordt daarom door een mens bekeken voordat het een leerling of ouder bereikt. We ontwerpen de schermen zo dat die controle vanzelfsprekend is, niet een extra stap die je kunt overslaan.

We ontwerpen Leyra met een centrale AI-laag tussen de toepassing en de modellen, zodat Leyra niet onnodig vastzit aan één aanbieder en modellen later kunnen worden vervangen of gecombineerd. Vertex AI met Gemini op Google Cloud is op dit moment onze voorkeursrichting. Per dienst stellen we vóór gebruik met echte leerlinggegevens vast waar gegevens worden verwerkt en welke instellingen nodig zijn.

De Europese AI-verordening stelt eisen die afhangen van de concrete toepassing. We beoordelen per functie welke eisen gelden, in plaats van één classificatie voor heel Leyra te claimen. Daarbij nemen we ook onderwijsspecifieke kaders mee.