China testet KI-Programm zur Benotung von Schulaufsätzen

Meist ohne Wissen der Eltern und Schüler werden an 60.000 Schulen Schulaufsätze von der Software benotet und kommentiert

Dass Künstliche Intelligenz manche, wahrscheinlich eher viele kognitiven Leistungen von Menschen überbieten kann, liegt mittlerweile auf der Hand. Immer dann, wenn für das Maschinenlernen viele Daten ausgewertet werden können, können KI-Programme auch Experten abhängen. Schon Ende 2017 wurde in China ein Programm vorgestellt, das mit einer Datenflut aus 53 medizinischen Lehrbüchern, 2 Millionen medizinischen Aufzeichnungen und 400.000 medizinischen Texten und Berichten sowie mit klinische Erfahrungen und Falldiagnosen gefüttert wurde. Die Medizinprüfung war keine Schwierigkeit, jetzt soll der smarte Roboter Ärzten bei der Diagnose zur Seite stehen, deren Arbeit dann auf handwerkliche Fertigkeiten reduziert werden könnte, sofern nicht Chirurgieroboter Hand anlegen (KI-Programm besser als Menschen im Verständnis natürlicher Sprache).

China, das ist lange bekannt, will bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz in allen Bereichen ganz vorne stehen. Massiv werden dabei auch unheimliche Programme wie Social Scoring getestet, mit dem über der Auswertung von persönlichen Daten, wo immer sie erfasst werden können, das individuelle Verhalten der Menschen zentral durch Belohnung und Bestrafung oder auch Nudging gesteuert werden soll. Der Traum der Behavioristen von einer besseren Welt durch "positive" Verhaltenssteuerung, wie sie Skinner in "Futurum 2" (Walden Two), erschienen 1948, ausgeführt hat, scheint nun in China wirklich zu werden.

Bekannt wurde nun durch einen Bericht der Zeitung SCMP, dass auch in Chinas Schulen bereits ein an der Capital Normal University entwickeltes KI-Programm heimlich eingesetzt wird, um Schulaufsätze in Chinesisch oder Englisch zu prüfen und zu benoten. Dabei handelt es sich nicht um kleinen Test, sondern angeblich wird bereits in 60.000 Schulen, einem Viertel aller Schulen mit 120 Millionen Schülern, das KI-Programm verwendet, die die Logik und Bedeutung von Texten versteht, eine menschenähnliche Beurteilung über die Qualität abgibt, die Aufsätze benotet und den Schülern Empfehlungen für Verbesserung im Stil, in der Struktur und der Themen gibt. So wird ein Hinweis gegeben, wenn in einem Absatz vom Thema abgewichen wird.

Maschine zur Erzeugung von Konformität

Zwar ist das wahrscheinlich wirklich nicht viel anders, als das, was auch Lehrer machen, um Schüler zum "richtigen" Schreiben zu bringen, aber Lehrer haben zwar ihre nationalen Lehrprogramme, weichen aber doch individuell im Hinblick darauf voneinander ab, wie sie Schülern, die sie im Schulalltag erleben, etwas beibringen und wie sie deren Leistungen bewerten. Jetzt also geschieht die Disziplinierung durch Bewertung und Korrekturen durch ein KI-Programm zentral und landesweit. Das erhöht zwar die Vergleichbarkeit und ist dadurch vielleicht gerechter, aber fördert die Konformität und bestraft Abweichungen. Der Effekt könnte sein, dass die innovative KI-Technik gerade Innovationen oder Kreativität ausmerzt. Nach einem Dokument, das SCMP erhalten hat, sollen aber die Benotungen von KI-System und Lehrern zu 92 Prozent übereinstimmen.

Natürlich wird versichert, wie man das immer zur Beruhigung macht, dass die KI-Technik nicht Menschen als Lehrer ersetzen, sondern diese nur unterstützen soll, indem sie deren Kapazitäten erweitert. So wird versprochen, dass die Lehrer weniger Zeit mit der Korrektur von Schulaufsätzen verbringen müssen, zudem würden eben keine "menschlichen" Fehler unterlaufen, die durch Unaufmerksamkeit oder unbewusste Vorurteile entstehen. Und ein solches Programm wäre doch gut für Schüler in abgelegenen Gegenden, um ihre Schreibkompetenzen schneller zu verbessern, weil dorthin, so steht zu vermuten, kaum Lehrer gehen wollen.

Der Einsatz des KI-Programms erfolgte ohne Wissen der meisten Beteiligten, was man sich auch nur in einem autoritären Regime leisten kann. Die Geheimniskrämerei legt wohl aber auch Zeugnis davon ab, dass die Regierung Sorge hat, die Bürger zu verschrecken, in dem auch an den Schulen die smarten Maschinen die Macht zu übernehmen beginnen. In den meisten Schulen wurden die Eltern und Kinder nicht informiert, nur bestimmtes Personal durfte an die Rechner des Programms und die Ergebnisse der Tests wurden streng geheim gehalten.

KI-Programme werden zur Black Box

Die von SCMP angefragten Schulen wollten auch keine weiteren Auskünfte geben, abgesehen davon, dass das KI-Programm noch fehlerhaft arbeite und Lehrer sagen, dass es manchmal für einen brillanten Text nur schlechte Noten gebe. Eingesetzt wird es angeblich noch nicht zur Benotung von Aufsätzen, die für Schulabschlüsse zählen.

Wie immer basiert das Programm darauf, Massen von Schulaufsätzen durchzugehen und Benotung und Kommentare mit denen von Lehrern zu vergleichen. Das Programm soll auch seine eigene "Wissensbank" selbständig aufbauen. Ein Wissenschaftler, der nicht genannt werden will, sagte, dass das KI-Programm sich zu einer Black Box entwickelt hat, was bei Maschinenlernen zunehmend der Fall ist: "Es hat sich kontinuierlich entwickelt und wurde so komplex, dass wir nicht mehr sicher wissen, was es denkt und wie es eine Beurteilung macht."

Längst ist eine Diskussion über KI entbrannt, weil man nur die Ein- und Ausgänge kontrollieren und Ergebnisse optimieren könne, ohne zu wissen, was in der Black Box vor sich geht (Die Geister, die wir rufen: Künstliche-Intelligenz-Algorithmen als neue Alchemie; Psychologen für die Künstliche Intelligenz).