Seite 3: Ein Problemfeld für offene Gesellschaften

Die wirklichen Herausforderungen, die sich aus diesen – und wohl weiteren daraus folgenden – Experimenten für Europa und die offenen Gesellschaften des Westens ergeben, lauten: Sollen sich menschliche und tierische Gehirne überhaupt verbinden? Wer soll im Bereich der Hybridisierung die Verbindungen zwischen Gehirnen, Computern und KI kontrollieren?

Wer sichert die Eigenschaften und Aktivitäten des individuellen menschlichen Gehirns vor Hybridisierung mit Kontroll-Funktion – und seiner nun möglichen Trans-Spezies-Verwendung? Und: Welche Rolle soll in den Neuen Humantechnologien der KI überhaupt gegenüber dem Menschen und seinem Gehirn zukommen – heute, vor allem aber künftig?

Das sind deshalb Herausforderungen, weil sie sich im Rahmen einer zunehmenden Besorgnis über technoide Verwischungstendenzen gegenüber Mensch, Menschenbild und Humanismus stellen. Viele gehen für die Zukunft des menschlichen Bewußtseins von einer techno-anthropologischen Hybridisierung aus. Diese könnte sowohl für Technologie wie Mensch Veränderungen mit sich bringen, deren wahrer Umfang und Wirkungen heute noch nicht abgesehen werden können.

Dazu kommt, dass hoch entwickelte Eindringungs- und Spähprogramme, sogenannte Trojaner, offenbar besonders kompatibel mit Künstlicher Intelligenz sind – und also umgekehrt KI-Mensch-Verschaltungen besonders anfällig für Trojaner-Angriffe auf Verbindungsstellen macht. Es entsteht heute geradezu ein neues Problemfeld mit dazugehöriger Diskussion: das Feld Trojans in Artificial Intelligence (TrojAI). Dieses Feld zeigt nicht nur technologische, sondern auch menschlich-soziale Konnotationen, wie die damit beschäftigen Institutionen und Wissenschaftler schreiben:

Künstliche Intelligenz wird mittels aktueller Maschinenlernmethoden darauf trainiert, Daten zu lesen und Beziehungen zwischen Daten zu erlernen. Dann wird sie zur Welt hin geöffnet, um neue Daten aufzunehmen und zu bearbeiten.

So kann KI zum Beispiel an Bildern über Verkehrszeichen trainiert werden. Sie kann lernen, was Stop-Signale sind und wie Geschwindigkeitsbegrenzungen aussehen. Dann kann sie als Teil eines selbstfahrenden Autos eingesetzt werden. Das Problem ist, dass ein Gegner diese Trainings-Pipeline unterbrechen und Trojaner-Verhaltensweisen in die KI einfügen kann.

Wenn zum Beispiel der KI-Lernprozess, Verkehrszeichen zu unterscheiden, künstlich nur um wenige Zusatzbeispiele ergänzt wird, etwa mit Beispielen, wo Stop-Zeichen nur als Geschwindigkeitsbegrenzungen interpretiert werden, könnte das mit sehr wenig Aufwand die KI dazu bringen, Stop-Zeichen aktiv zu überfahren.

Das wäre ideal für Terror – oder, allgemeiner gefasst, für das Einbringen unterschiedlicher und gegenläufiger Interessen in "Kontrollmechanismen" hoch entwickelter künstlicher Intelligenzen von direkter menschlicher Relevanz. Was bedeutet diese Manipulationsmöglichkeit für die sich vervielfältigenden KI-Mensch-Schnittstellen im Alltag?