Zusammenfassung
Große Sprachmodelle (LLMs) bilden die Grundlage vieler KI-Chatbots, die Lernende bereits nutzen. Ihr pädagogischer Wert hängt von der Art der Nutzung ab: Zugang allein gewährleistet weder Sicherheit noch Fairness oder Lernerfolg.
Dieses Papier untersucht drei Probleme: unzuverlässige und unsichere Antworten, ungleiche Unterstützung und das Ersetzen eigenständiger Übung. Es schlägt eine gemeinsame schulische Umgebung vor, in der Lehrkräfte die KI-Nutzung begleiten und Forschung prüft, ob Lernende tatsächlich lernen. Ziel ist es, LLMs als Bildungswerkzeuge einzusetzen und zugleich mögliche Schäden zu erkennen und zu verringern.
1. Lernende nutzen KI bereits
- Lernende nutzen Chatbots bereits für Schulaufgaben. In einer Pew-Befragung von September bis Oktober 2025 gaben 54 % der 13- bis 17-Jährigen in den USA an, zumindest einen kleinen Teil ihrer Schulaufgaben mit Chatbot-Hilfe zu erledigen. [1]
- Die Nutzung findet auch außerhalb schulischer Kontrolle statt. In einer weiteren US-Befragung berichteten 59 % der Lernenden, die auf einem Schulgerät oder im Schulnetzwerk auf eine KI-Sperre gestoßen waren, dass sie auf ein privates Gerät wechselten. [2]
- Folgerung: Schulen brauchen eine pädagogische Antwort auf Werkzeuge, die Lernende bereits nutzen. Das bedeutet nicht, dass jede Aufgabe KI einbeziehen sollte.
2. Sicherheit ist nicht selbstverständlich
- Flüssig formulierte Antworten können falsch sein. Sie können Fakten, Begründungen und Quellen erfinden. Sprachliche Gewandtheit garantiert keine richtige Antwort. [3]
- Schutzmaßnahmen können versagen. Prüfungen zeigten Mängel bei Antworten auf psychische Belastungen Jugendlicher und bei einzelnen Jugendschutzmaßnahmen. Diese Ergebnisse betreffen bestimmte Produkte, Versionen und sensible Anwendungsbereiche. [4] [5]
- Privatsphäre muss geschützt werden. Für das Erheben, den Zugriff und die Nutzung von Schülerdaten braucht es klare Regeln. Die UNESCO fordert Datenschutz und eine altersgerechte pädagogische Prüfung. [6]
Folgerung: Antworten prüfen, Informationen schützen und einen klaren Weg zu menschlicher Hilfe anbieten.
3. Unterstützung ist nicht automatisch gerecht
- Die Nutzung ist ungleich verteilt. In einer Befragung britischer Studierender nutzten sozial besser gestellte Personen bestimmte KI-Werkzeuge häufiger. Die Studie klärte die Ursachen nicht. [7]
- Auch die Abhängigkeit von KI unterscheidet sich. In einer US-Befragung nutzten 20 % der Jugendlichen aus Haushalten mit weniger als 30.000 US-Dollar Einkommen Chatbots für alle oder die meisten Schulaufgaben, gegenüber 7 % bei mindestens 75.000 US-Dollar. [8]
- Dieselbe Bedeutung kann unterschiedlich behandelt werden. Experimente zeigten rassistische Verzerrungen, wenn Modelle Personen anhand verschiedener englischer Dialekte beurteilten. [9]
Folgerung: gemeinsamen Zugang schaffen, alle bei der Nutzung anleiten und prüfen, ob die Unterstützung für unterschiedliche Lernende fair ist.
4. Aufgabenleistung ist nicht gleich Lernen
- Unterstützung kann notwendiges Üben ersetzen. In einer Mathematikstudie an einer weiterführenden Schule verbesserte ein allgemeiner GPT-4-Assistent die unterstützte Aufgabenbearbeitung. Später schnitten die Lernenden ohne KI jedoch schlechter ab als diejenigen, die ohne KI geübt hatten. Ein Tutor mit Lernschutzmaßnahmen vermied diesen Verlust weitgehend. [10]
- Lernende äußern Sorgen um ihren Lernerfolg. In einer US-Befragung berichteten 39 % der KI-nutzenden Jugendlichen, beim Erledigen von Aufgaben mit KI Lerngelegenheiten zu verpassen. [2]
- Didaktische Gestaltung kann Ergebnisse verbessern. Ein strukturierter KI-Tutor erzielte in einer Studie mit 194 Physikstudierenden bessere unmittelbare Testergebnisse als ein Kurs mit aktivem Lernen. Langfristige Vorteile wurden nicht untersucht. [11]
Folgerung: Lernende müssen selbst argumentieren, Quellen prüfen und Probleme lösen. Bewertet werden sollte, was sie ohne Unterstützung erklären und lösen können. Diese Studien belegen nicht, dass jede LLM-Nutzung das kritische Denken schwächt.
5. KI-Nutzung unter schulischer Anleitung
SchoolGround AI schlägt vor, LLMs als Bildungswerkzeuge mit klaren Zwecken und Grenzen zu behandeln. Wie bei Taschenrechnern sollten Lehrkräfte entscheiden, wann Unterstützung einem Lernziel dient und wann eigenständiges Arbeiten nötig ist.
- Von Lehrkräften bestimmter Kontext. Lehrkräfte wählen Lernziel, Materialien und die erlaubte Unterstützung aus.
- Gemeinsamer Zugang und Anleitung. Ein gemeinsames Werkzeug und Anleitung anbieten, mit Unterstützung für unterschiedliche Lernbedürfnisse.
- Eigenständiges Denken. Lernende auffordern, es selbst zu versuchen, die Antwort zu prüfen und zu erklären, was sie gelernt haben.
- Menschliche Verantwortung. Lehrkräfte begleiten das Lernen. Verantwortliche für den Schutz von Kindern und Jugendlichen kümmern sich um Bedenken. Das Modell unterstützt ihre Arbeit.
Der Vergleich mit dem Taschenrechner beschreibt eine Rolle, keine gleichwertige Zuverlässigkeit. LLMs können Antworten erfinden und unvorhersehbar reagieren. Deshalb brauchen sie zusätzliche Prüfungen. [3]
Dies sind vorgeschlagene Gestaltungsprinzipien. Ihr pädagogischer Wert und ihre praktischen Grenzen müssen geprüft werden. Dazu gehören Aufgaben, die vollständig ohne KI bearbeitet werden.
6. Evaluation muss die Umsetzung leiten
SchoolGround AI schlägt eine gemeinsame Umgebung vor, die auf dem Wissen von Schule, Jahrgang und Klasse aufbaut. Forschung und Unterrichtspraxis sollen sie gemeinsam gestalten.
- Erfolg vor einem Pilotversuch definieren.Lehrkräfte und Forschende legen vor einem Pilotversuch die Fähigkeit, erlaubte Hilfen und Erfolgskriterien fest.
- Eigenständiges Lernen messen.Regulären Unterricht, strukturierte KI-Unterstützung und selbstständiges Üben vergleichen. Begründungen, langfristiges Behalten und neue Aufgaben ohne KI prüfen.
- Risiken und Verteilung des Nutzens untersuchen.Falsche Antworten, unsichere Reaktionen, Datenschutzmängel und Unterschiede zwischen Gruppen erfassen. Auch den Arbeitsaufwand der Lehrkräfte prüfen.
- Überarbeiten, neu bewerten oder aussetzen.Grenzen offenlegen, Modelländerungen prüfen und Anwendungen aussetzen, die vereinbarte Standards nicht erfüllen.
Fazit: Die Nutzung durch Lernende macht eine pädagogische Antwort nötig; sie belegt nicht die Wirksamkeit eines bestimmten Produkts. SchoolGround AI möchte Lernen unterstützen und vermeidbare Schäden verhindern. Sicherheit, Fairness und Lernvorteile sind weiterhin zu prüfende Ziele, keine nachgewiesenen Ergebnisse.
Quellen und Geltungsbereich
Quellen geprüft am 27. Oktober 2026. Befragungen beschreiben Nutzung, Experimente prüfen bestimmte Wirkungen, Leitlinien formulieren Erwartungen. Dies ist eine ausgewählte Evidenzübersicht, keine vollständige systematische Übersicht. Die oben genannten Anforderungen an Schulen sind unsere Vorschläge.
- [1]How Teens Use and View AI (öffnet einen neuen Tab)
Survey. 1.458 Jugendliche in den USA im Alter von 13–17 Jahren; befragt vom 25. September bis 9. Oktober 2025. Schulaufgaben: 10 % alle/meiste + 21 % einige + 23 % wenige = 54 %. Selbstauskünfte, keine weltweite Verbreitung.
- [2]Teens in the AI Era: Schoolwork and Skills That Matter (öffnet einen neuen Tab)
Survey. 1.017 Jugendliche in den USA im Alter von 13–17 Jahren; 30. April bis 14. Mai 2026. Abbildungen 5 und 9: Lernbedenken und Umgehen gesperrter Werkzeuge. Die 39 % beziehen sich auf KI-Nutzende, die 59 % auf Personen, die auf eine Sperre stießen. Selbstauskünfte, keine kausalen Wirkungen.
- [3]Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (öffnet einen neuen Tab)
Risk framework. NIST AI 600-1, besonders Abschnitte 2.2 (Konfabulation) und 2.4 (Datenschutz). Benennt Risiken, misst aber nicht deren Häufigkeit in Schulen.
- [4]AI Chatbots for Mental Health Support: Risk Assessment (öffnet einen neuen Tab)
Safety assessment. ChatGPT, Claude, Gemini und Meta AI in Szenarien zur psychischen Gesundheit Jugendlicher. Ein bestimmter Anwendungsfall und Prüfzeitraum, keine Bewertung aller Unterrichtsanwendungen.
- [5]ChatGPT for Teens: Risk Assessment (öffnet einen neuen Tab)
Product safety assessment. Mehr als 4.000 Testeingaben rund um den Start im August 2026. Gemeldete Mängel bei der Vermittlung von Krisenhilfe und elterlichen Schutzfunktionen, zugleich bessere Ablehnung direkt schädlicher Hilfe. Produktspezifische Ergebnisse, kein Test aller LLMs.
- [6]Guidance for generative AI in education and research (öffnet einen neuen Tab)
Education guidance. Leitlinien zu Datenschutz, menschlicher Selbstbestimmung, altersgerechter Nutzung, Inklusion und pädagogischer Prüfung. Empfehlungen, kein Beleg für die Sicherheit eines Produkts.
- [7]Student Generative AI Survey 2026 (öffnet einen neuen Tab)
Survey. 1.054 Vollzeitstudierende in Großbritannien; Dezember 2025. Bericht 199, S. 9–12: Methoden und Nutzungsunterschiede nach sozialer Gruppe. Die Ursache ist unklar; Kosten allein sind nicht als Erklärung belegt. Finanziert vom Bildungstechnologieunternehmen Kortext.
- [8]Demographic differences in how teens use and view AI (öffnet einen neuen Tab)
Survey analysis. Dieselbe Befragung wie [1]. Alle/meisten Schulaufgaben mit Chatbot-Hilfe: 20 % in Haushalten unter 30.000 US-Dollar gegenüber 7 % ab 75.000 US-Dollar. Ein Zusammenhang mit Einkommen, kein Beleg dafür, dass Einkommen oder KI Lernverluste verursachen.
- [9]AI generates covertly racist decisions about people based on their dialect (öffnet einen neuen Tab)
Peer-reviewed experiment. Nature 633, 147–154. Dialektexperimente mit 12 Modellversionen, darunter bedeutungsgleiche Texte. Zeigt Verzerrungen in den getesteten Modellen, misst aber weder Lernen im Unterricht noch jedes aktuelle Modell.
- [10]Generative AI without guardrails can harm learning: Evidence from high school mathematics (öffnet einen neuen Tab)
Peer-reviewed randomized trial. PNAS 122 (26), e2422633122; Tabelle 1. Fast 1.000 Lernende an einer türkischen weiterführenden Schule; GPT-4, Mathematik. Der Tutor mit Schutzmaßnahmen vermied Lernverluste weitgehend, verbesserte aber Prüfungsergebnisse ohne Hilfe nicht signifikant. Kurzfristige Ergebnisse.
- [11]AI tutoring outperforms in-class active learning: an RCT introducing a novel research-based design in an authentic educational setting (öffnet einen neuen Tab)
Peer-reviewed randomized trial. Scientific Reports 15, 17458. 194 teilnahmeberechtigte Physikstudierende in Harvard, zwei Unterrichtseinheiten; unmittelbare Nachtests. Evidenz für einen bestimmten strukturierten Tutor, kein Nachweis langfristiger Vorteile oder einer Wirksamkeit für jedes Schulalter.