Seite 2: Eingeschränkte Datenbasis von ChatGPT: Probleme für Fakten und Minderheiten

▶ In der heutigen "realen Laborwelt" gibt es nicht mehr die politische Zeit, zum Beispiel für die "ersten 100 Tage einer Regierung". Gleichzeitig ist die Datenlage der Sprachmodelle zeitlich verschoben. Wir haben in den letzten zwei Jahren komplett neue politische Eckdaten bekommen – Ukraine, Nahost, Energiekrise. Viele Laien wissen nicht, dass die kostenlose Version ChatGPT mit Daten trainiert wurde, die mehr als zwei Jahre alt sind.

Holger Hoos: Das eine ist das Alter der Daten. Und die Leute wissen wahrscheinlich auch nicht, dass die Systeme auf einer Datenmenge trainiert wurden, die nicht frei von Bias und Verzerrungen ist.

Und die Art der Verzerrungen ist generell nicht gut verstanden. Zumal es nicht genau bekannt ist, auf welche Daten die großen und breit verfügbaren KI-Modelle trainiert wurden. Das ist ein ganz großes Problem. Ein weiteres großes Problem ist, dass von den Systemen statistisch gesehen Antworten gegeben werden auf Basis der Wahrscheinlichkeit, welche die Mehrheit der Daten liefert. Wenn man sich überlegt, was das für Minderheiten bedeutet – auch für fundierte und wichtige Minderheitenmeinungen, dann sieht man, was wir hier für ein Problem haben.

▶ Werden also konkret Fakten verschwiegen, wenn die Datenlage es so hergibt?

Holger Hoos: Es muss gar nicht bösartig sein. Wir reden von Statistik. In diesem Sinn sind die Modelle dann auch ein bisschen simplistisch, da sie eben auf den Durchschnitt gehen. Auf die Mehrheit. Und im politischen Prozess, zumindest so wie wir ihn in Europa verstehen, wissen wir, dass nicht nur die Meinung der Mehrheit zählt, sondern auch die von Minderheiten.

Wie Sie selbst sagten, haben wir es hier nicht nur mit Meinungen zu tun, sondern auch mit Fakten. Und selbst bei Fakten ist es so, dass sich die Wahrheit nicht immer in der größten Faktenmenge niederschlägt. Manchmal ist sie in einem kleineren Teil des Datensatzes versteckt. Die Wahrheit zeichnet sich dadurch aus, dass sie logisch konsistenter ist als das, was sich im Gros der Daten wiederfindet. Und genau das kann ein neuronales Netz zurzeit gar nicht erfassen – und damit auch kein ChatGPT.

Und dann gehen wir einen Schritt weiter. Es geht ja nicht nur Fakten, sondern auch um Meinungen, um Wertvorstellungen und auch um kulturelle Unterschiede, so wie bei der Europawahl. Ich denke mal, was es in Deutschland bedeutet, konservativ zu sein, und was es in Italien oder Griechenland bedeutet, das sind zwei verschiedene Dinge. Und irgendwie ist es auch gut so.

Das europäische Projekt, die Europäische Union, lebt von dieser Vielfalt. Deshalb ist auch das Motto der EU "in Vielfalt vereint". Aber wenn nun die KI-Systeme, die wir nutzen, um die Welt zu verstehen und unser Tagesgeschäft zu erledigen, die Vielfalt nicht widerspiegeln und zum Teil auch nicht widerspiegeln können, dann kommt uns ein guter Teil dieser Vielfalt abhanden und wird verschüttet. Und das ist für den politischen Prozess äußerst bedenklich.

Nicht nur deshalb, weil man dann diese Vielfalt nicht mehr nutzbringend einsetzen kann oder weil sie sich in politischen Entscheidungen und Verwaltungsakten nicht mehr richtig widerspiegelt, sondern auch, weil viele Menschen und ihre Meinungen dann im Mainstream nicht mehr das Gehör finden, das ihnen fairerweise zustehen sollte. Diese Leute fühlen sich dann auch vernachlässigt – berechtigterweise.

Was passiert, wenn sich immer mehr Leute vom politischen Prozess nicht mehr abgeholt fühlen, das sehen wir – aus meiner Nichtexpertensicht – aktuell in den USA. Ich würde das Phänomen Trumpism ganz klar auch darauf zurückführen, dass sich ein großer Teil der Wählerschaft nicht mehr abgeholt fühlt, von dem, was im politischen Prozess passiert.

Und das hat nun zunächst wenig mit KI zu tun. Aber die Art von KI, die wir gerade auf die Welt losgelassen haben, kann nicht dazu beitragen, das Problem zu lösen, sondern im Gegenteil, sie birgt das Risiko, das Problem noch einmal zu verstärken.

Sie reden von der Schnelllebigkeit in der Politik, da bin ich 100 Prozent bei ihnen. Wenn wir jetzt über Politik und KI reden, dann geht es nicht nur darum, wie verändert die KI das politische Geschehen, sondern wie wird auch Politik über KI gemacht.

Weil die KI Gesellschaft, Politik und Wirtschaft beeinflusst, besteht hier auch der Bedarf der Regulierung, so wie es die EU nun tut

Lesen Sie auch

Neue EU-Regeln: Ängste der Beschäftigten vor KI bleiben, Bosch-Boss beschwichtigt

---

KI-Gesetz: EU legt Künstlicher Intelligenz Zügel an – zu wenig, zu spät?

EU-KI-Act: Ein erster Schritt, aber noch nicht ausreichend

▶ Ist der EU-KI-Act ausreichend?

Holger Hoos: Ganz ehrlich, nicht einmal die Leute, die ihn verabschiedet haben, halten ihn für ausreichend. Aber die Frage ist auch, ist es besser das zu haben, was wir gerade haben oder gar nichts? Und da bin ich ganz klar der Meinung, dass der EU-KI-Act zumindest ein Schritt in die richtige Richtung ist. Sie werden niemanden finden, der ihnen sagt, dass die derzeitige Version der Weisheit letzter Schluss ist.

Aber schauen wir mal, ChatGPT wurde im November 2022 auf die Menschheit losgelassen und wurde seitdem mit enormem Tempo weiterentwickelt. Es ist auch der Politik klar, dass man da am Ball bleiben muss. Selbst Experten verstehen die Prozesse, auf denen moderne KI-Systeme beruhen, nicht vollständig.

Politikerinnen und Politiker haben einen ganz anderen Rhythmus. Für die Politik bereitet das große Probleme. Denn dort ist man auch nicht an so ein Tempo gewöhnt.

Der politische Prozess, der dazu führen muss, dass zum Beispiel im Verbraucherschutz die Leute, die KI nutzen, geschützt werden, dieser Prozess ist auf die Geschwindigkeit, welche die KI vorgibt, gar nicht ausgelegt.

Und, um es ganz ehrlich zu sagen, wir müssen dringend über Veränderung im politischen System nachdenken, damit es hier überhaupt vernünftig Schritt halten kann. Ich beneide die Politikerinnen und Politiker, die sich innerhalb des derzeitigen politischen Systems mit diesen Dingen auseinandersetzen müssen, überhaupt nicht. Das ist eine wahnsinnig schwierige Aufgabe.

Politisches System muss sich an KI-Tempo anpassen: Neue Beteiligungsmodelle

▶ Gibt es denn schon Modelle und Ansätze dafür, wie das politische System aufgestellt sein müsste, um in Zeiten der KI zu bestehen?

Holger Hoos: Dafür bin ich kein Experte, da müssten Sie zum Institut für Politische Wissenschaften gehen. Ich gebe nur kurz einen Denkanstoß weiter.

Es werden neue Mechanismen in der partizipativen Demokratie benötigt, ergänzend zu den eingefahrenen Modellen mit gewählten Vertretern, Parlamenten und Wahlen. Es braucht die Einbindung von Experten und Bürgern. Das heißt nicht, dass wir eine direkte Demokratie wie in der Schweiz brauchen, das wäre für ein Land der Größe Deutschlands schwierig. Aber wir müssen über neue Modelle der Beteiligung von Bürgerinnen und Bürgern dringend nachdenken.

Denn das kann, so höre ich im Gespräch mit den Politikwissenschaftlerinnen und -wissenschaftlern immer wieder, dazu beitragen, dass sich die Menschen von der Politik besser abgeholt fühlen.

▶ Das klingt gut und positiv…

Holger Hoos: Wir müssen hier positiv denken und ganz klar sagen, die KI bietet Chancen auch für die Politik und die Demokratie.

▶ Also optimistisch in die Zukunft blicken?

Holger Hoos: Ich bin und bleibe Optimist.

▶ Wir danken für das Gespräch.