zurück zum Artikel

Ab wann gestaltet KI den Menschen um – statt in seinem Dienst zu stehen? (Teil 1).

Künstliche Intelligenz gilt seit einigen Jahren als das Schnittpunkt- und Konvergenz-Thema von Zeitentwicklungen schlechthin. Angesichts der beispiellosen Vielfalt von Anwendungsmöglichkeiten wohl zu Recht. Noch wird KI aber mit zu wenig Bezug zur Umgestaltungsmöglichkeit von Mensch und Menschsein thematisiert.

Doch die Beispiele für diese Möglichkeit häufen sich. Damit sind philosophische, ethische und Sicherheitsfragen verbunden. Obwohl vieles in der Perspektive spekulativ bleibt, sollten sich Gesellschaft und Entscheidungsträger frühzeitig mit Szenarien von kapillar und transdisziplinär wirksamen Hyper-Technologien wie KI hinsichtlich humaner Veränderung auseinandersetzen.

Die Verschmelzung "Neuer Humantechnologien" mit Künstlicher Intelligenz

Jenes Menschenbild, das in demokratischen Gesellschaften in mehreren historischen Schüben im Zeichen von Humanismus und Aufklärung konzipiert wurde und an der Verfassungs- und zivilreligiösen Grundlage Europas und des Westens steht, steht in den kommenden Jahren möglicherweise vor Veränderungen. Daran könnte Künstliche Intelligenz (KI) Anteil haben. Dies vor allem in ihrer Verbindung mit neuen Humantechnologien, von denen wir einige im folgenden beschreiben.

Zu diesen neuen Humantechnologien gehören an hervorragender Stelle Gehirn-Maschine-Verschaltungen (Brain-Machine-Interfaces, BMIs) und Gehirn-Computer-Verschaltungen (Brain-Computer-Interfaces, BCIs).

Beide Schnittstellentechnologien sollen Mensch, Maschinen und Computer miteinander direkter als je zuvor verschalten und dadurch eine höhere Stufe von Intelligenz und Leistung hervorbringen. Dies, indem sie den Menschen durch das Hereinholen von Technologie in sein Selbst, also mittels faktischer Hybridisierung, profund aufrüsten. Wie Experten schreiben, ist eine Gehirn-Maschine-Schnittstelle [1] (BMI)

ein System zum schnellen Lesen und Dekodieren von Gehirnaktivitäten, das es einer Person ermöglicht, eine Maschine oder eine Computerschnittstelle allein mit ihren Gedanken zu bedienen. Diese Technik, die gelegentlich als ‚Gedankenlesen‘ bezeichnet wird, hat das Potenzial, gelähmten Menschen ihre Bewegungsfähigkeit zurückzugeben. Jüngste Experimente an Affen und Menschen zeigen bereits die klinischen Auswirkungen der BMI-Technologie.

Das heute vorwiegende Legitimations-Narrativ für solche intrusive oder invasive Humantechnologie bezieht sich meist auf den Gesundheits- und Optimierungsbereich [2]:

Millionen von Menschen auf der Welt sind von Störungen des motorischen Systems betroffen. Amyotrophe Lateralsklerose (ALS), Schlaganfall und Rückenmarksverletzungen sind nur einige der Beeinträchtigungen, die dazu führen, dass die Patienten trotz ansonsten intakter Gehirne nicht in der Lage sind, sich effektiv zu bewegen oder physisch mit ihrer Umgebung zu interagieren.

Durch die Umleitung von Signalen aus dem Gehirn direkt in Maschinen, unter Umgehung von beschädigten Rückenmarks- oder peripheren Motoneuronen, können BMIs die Fähigkeit gelähmter Patienten wiederherstellen, direkt mit ihrer Umgebung zu interagieren und sie zu manipulieren.

Ein BMI empfängt neuronale Signale aus dem Gehirn des Patienten, in der Regel von chirurgisch implantierten Elektroden. Das System dekodiert diese Signale und sendet sie an einen Computer oder ein Hilfsmittel, so dass der Patient das Gerät allein durch seine Gehirnaktivität steuern kann. Wenn sie erfolgreich sind, haben BMIs das Potenzial, die Lebensqualität von Patienten mit motorischen Beeinträchtigungen erheblich zu verbessern.

Viele Gehirn-Maschine-Schnittstellen sind zweiseitig gerichtet (bidirectional) [3], fördern also einen multiplen Aktion-Reaktion-Rückkoppelungsaustausch. Das soll unter anderem zu einem "Internet der Gedanken [4]" führen – also zu einer Welt, in der Dinge, Maschinen und Computer direkt mit menschlichen Gedanken interagieren.

Dabei spielt Künstliche Intelligenz – also die Simulation menschlicher Intelligenzprozesse durch Maschinen [5] – bereits heute eine entscheidende Rolle, die in den kommenden Jahren massiv ausgebaut werden soll. Schlüsselwörter dabei sind intelligente Prothetik mittels Kodierung und Dekodierung, Computerisierte Neurowissenschaft (computational neuroscience) und maschinelles Lernen.

Die Zusammenführung der verschiedenen Komponenten dieser neuen Humantechnologien schreitet rasch voran. Dazu schrieben chinesische Wissenschaftler bereits 2020 unter dem Titel "Die Kombination von Gehirn-Computer-Schnittstellen mit Künstlicher Intelligenz: Anwendungen und Herausforderungen [6]":

Gehirn-Computer-Schnittstellen (BCIs) haben sich als bidirektionale Echtzeitverbindungen zwischen lebenden Gehirnen und Aktoren als vielversprechend erwiesen. Künstliche Intelligenz (KI), die die Analyse und Dekodierung neuronaler Aktivitäten verbessern kann, hat dem Bereich der BCI in jüngster Zeit neue Impulse verliehen.

In den letzten zehn Jahren ist ein breites Spektrum von BCI-Anwendungen mit KI-Unterstützung entstanden. Diese "intelligenten" BCIs, einschließlich motorischer und sensorischer BCIs, haben bemerkenswerte klinische Erfolge gezeigt, die Lebensqualität gelähmter Patienten verbessert, die sportlichen Fähigkeiten gewöhnlicher Menschen erweitert und die Entwicklung von Robotern und neurophysiologischen Entdeckungen beschleunigt.

Trotz der technologischen Verbesserungen bestehen jedoch nach wie vor Herausforderungen im Hinblick auf die langen Trainingszeiten, das Echtzeit-Feedback und die Überwachung von BCIs.

Die meisten Autoren der hohen Innovationsleistung und Dynamik im Bereich des Zusammenwachsens von Schnittstellen-Technologien und Künstlicher Intelligenz sind sich klar darüber, dass das ein hohes Potential zur Veränderung der Beziehung zwischen Mensch und Technologie einerseits, aber andererseits auch des Menschenbildes an sich mit sich bringt [7]:

Mit der großen Explosion der Technologie hat sich die Grenze zwischen Mensch und Maschine zu verringern begonnen. Unsere spektakulären wissenschaftlichen Fiktionen, die die "Gedankenkontrolle" beschrieben, werden mit Hilfe von Maschinen allmählich wahr. Die Grenzen dieser neuen Techniken sind Gehirn-Computer-Schnittstellen (BCI) und künstliche Intelligenz (KI).

Experimentelle Paradigmen für BCI und KI wurden normalerweise unabhängig voneinander entwickelt und angewandt. Inzwischen ziehen es die Wissenschaftler jedoch vor, BCI und KI zu kombinieren, was es ermöglicht, die elektrischen Signale des Gehirns effizient zur Steuerung externer Geräte zu nutzen.

Für schwerbehinderte Menschen könnte die Entwicklung von BCIs der wichtigste technologische Durchbruch seit Jahrzehnten sein. BCIs, also Technologien, die mit dem zentralen Nervensystem und den neuronalen Sinnesorganen kommunizieren, können Menschen mit neurodegenerativen Erkrankungen wie… erworbenen Hirnverletzungen einen muskelunabhängigen Kommunikationskanal bieten…

Die Methoden zur Erfassung verschiedener Arten von Gehirnsignalen können als invasiv oder nicht-invasiv eingestuft werden. Zu den invasiven Aufzeichnungssystemen gehören die Elektrokortikographie (EKoG), Mikroelektroden-Arrays (MEAs) usw. Nichtinvasive BCIs wie Elektroenzephalographie (EEG), Magnetenzephalographie, funktionelle Magnetresonanztomographie (fMRI) und funktionelle Nahinfrarotspektroskopie bergen nicht das Risiko einer Gewebeschädigung und können relativ einfach eingesetzt werden.

Mit Hilfe dieser elektrophysiologischen Techniken können BCIs schnell eingesetzt werden, um das Gehirn zu "lesen", seine Aktivität aufzuzeichnen und ihre Bedeutung zu entschlüsseln, und um in das Gehirn zu ‚schreiben‘, das heisst die Aktivität in bestimmten Regionen zu manipulieren und ihre Funktion zu beeinflussen.

Vor allem letzteres: die Option zum "Schreiben in Gehirne", ist bislang noch eine Art unerforschter Kontinent. Die meisten Akteure auf dem Gebiet Neuer Humantechnologien sind sich jedoch im Klaren darüber, dass damit auch das bisherige Menschsein in intimen Bereichen zur Disposition steht. Die diesbezügliche Effizienz schreitet trotz vieler Schwierigkeiten in bidirektionaler Richtung voran [8]:

Glücklicherweise haben die jüngsten Fortschritte in der KI-Methodik große Fortschritte gemacht und bewiesen, dass die KI den Menschen bei der Dekodierung und Kodierung neuronaler Signale übertrifft. Dies bietet der KI eine große Chance, zu einem idealen Helfer bei der Verarbeitung von Gehirnsignalen zu werden, bevor sie die Prothesen erreichen.

Insgesamt lässt sich laut Fachleuten das Zusammenwachsen von "Neuen Humantechnologien" mit Künstlicher Intelligenz wie folgt in Kürzestform zusammenfassen [9]:

Bei der KI handelt es sich um eine Reihe allgemeiner Ansätze, bei denen ein Computer intelligentes Verhalten mit minimalen menschlichen Eingriffen modelliert und schließlich die menschliche Leistung bei aufgabenspezifischen Anwendungen erreicht oder sogar übertrifft.

Bei der Anwendung von KI in BCIs werden den Algorithmen ständig interne Parameter zur Verfügung gestellt, z. B. Impulsdauer und -amplitude, Stimulationsfrequenzen, Energieverbrauch des Geräts, Stimulations- oder Aufzeichnungsdichte und elektrische Eigenschaften des Nervengewebes.

Nach Erhalt der Informationen können die KI-Algorithmen nützliche Teile und Logik in den Daten identifizieren und dann gleichzeitig die gewünschten funktionellen Ergebnisse erzeugen. Obwohl diese Studien noch weitgehend im präklinischen Forschungsbereich angesiedelt sind, könnte die weitere Entwicklung klinisch umsetzbare Veränderungen bei BCIs aufzeigen.

KI dient also als zunehmend wichtige Treiberin der neuen, invasiven Humantechnologien. Ob sie dabei zum Dreh- und Angelpunkt tiefer und bleibender Veränderung von Mensch-Technologie-Interaktion, und damit – eben wegen ihrer Invasivität – möglicherweise auch von Menschenbild und Mensch selbst wird, ist derzeit noch weitgehend offen.

Es zeigen sich aber Tendenzen an der Schnittstelle zwischen Neuen Humantechnologien, KI und Mensch, die Mensch und das bisherige humanistisch-aufklärerische Menschenbild beeinflussen oder gar verändern könnten.

Weil damit Implikationen auch für die Grundlagen offener Gesellschaften und ihrer Wertesysteme verbunden sind, sollten demokratische Gesellschaften diese Tendenzen genau beobachten und in ihren Richtungsentscheidungen mit berücksichtigen.

Aktuelle Veränderungen des Menschenbildes am Schnittpunkt Humantechnologie-KI-Mensch

Drei aktuelle Stoßrichtungen verdienen an dieser Schnittstelle besondere Beachtung. Man kann sie als Destillat zahlreicher Unter- und Einzelentwicklungen verstehen und zunächst typologisch, das heisst vereinfachend und in ihrem kleinsten gemeinsamen Nenner erfassen:

1. die Maschinisierung des Menschen (Cyborgisierung);
2. die Vermenschlichung der Maschine (Anthropogenisierung); und
3. an ihrem Schnittpunkt und Zusammenfluss – die Entstehung einer Vielzahl von Hybriden, die beide Tendenzen miteinander verbinden. Darunter sind "Intelligenz"-Direktverschaltungen sowohl an der Schnittstelle Biologie-Technologie wie zwischen unterschiedlichen biologischen Trägern, meist mithilfe von KI.

Diese drei Stoßrichtungen wirken seit einiger Zeit zusammen und verstärken sich gegenseitig. Alle drei sind Bestandteil einer größeren Gegenwarts-Entwicklung, die als Zusammenwirken von Anthropozän mit digitaler Transformation [10] verstanden wird. Diese Entwicklung wird oft auch – eher ungenau – unter dem Stichwort "Digitale Transformation für Entwicklung [11]" gefasst. Intelligenz-Technologie soll eine von durch Menschen selbstverursachte Schäden gekennzeichnete Welt heilen oder zumindest zu ihrer progressiven Umformung beitragen.

Eines ist dabei auffällig: Bislang war meist von Künstlicher Intelligenz als Gesellschaftsfaktor, nicht aber als Humanfaktor der Transformation die Rede. Die meisten positiven Analyseansätze interpretierten KI in den vergangenen Jahren in erster Linie als Chance zur Verbindung von "Innovation und nachhaltigem Wachstum" [12] – das heisst als Instrument, um "den nachhaltigen Wandel zu gestalten [13]".

Vor allem Nachhaltigkeit und KI wurden spätestens seit dem 75-Jahr Jubiläum der Vereinten Nationen [14] 2020 bis 2021 [15] immer häufiger zueinander in Beziehung gesetzt – so etwa in Form einer KI, die in den kommenden Jahren entscheidend dazu beitragen soll, den Klimawandel und die Umweltkrise in den Griff zu bekommen, "um die Welt zu retten [16]".

Dazu haben globale Institutionen wie Unesco [17] (in Form der AI for the Planet Initiative [18]) und OECD [19] (in Gestalt des AI Policy Observatory [20]) und führende Universitäten wie Stanford [21] (unter anderem mittels des Zentrums für Human-Centered Artificial Intelligence [22]) in jüngster Zeit eigene Programme gestartet. Diese versuchen, am Schnittpunkt zwischen KI und Nachhaltigkeit gewisse ethisch-humanistische Aspekte einzubeziehen [23]. Ziel ist die Schaffung von Plattformen für die Diskussion um den menschlich sinnvollen und verträglichen Einsatz von KI für Transformation.

Dabei wurde – und wird – jedoch meist die Beziehung zwischen KI und (bisherigem) Mensch im engeren und vertieften Sinn hintangestellt. Oft werden techno-anthropologische und -philosophische Aspekte in aktuellen und vorausschauenden Studien sogar ganz außer Acht gelassen.

Für eine bessere Beachtung dieser Aspekte bestehen aber mittlerweile zahlreiche praktische Anlässe. Diese decken sich mit den drei Stoßrichtungen aktueller Entwicklungen am Mensch-KI-Humantechnologie-Schnittpunkt. Wir wollen diese drei Stoßrichtungen im folgenden kurz durchgehen.

Stoßrichtung 1: Die Maschinisierung des Menschen (Cyborgisierung)

Erstens eröffnet seit einigen Jahren die Möglichkeit der Maschinisierung des Menschen. Sie wird oft auch Cyborgisierung genannt. Dieser Trend erzielte seit 2016 mit der ersten Cyborg-Olympiade [24] (Cybathlon) in der Schweiz, die 2020 ihre Fortsetzung fand [25] und im Oktober 2024 das dritte Mal stattfindet [26], aber auch mit Emotiv-brain wearables [27] (drahtlose tragbare Enzephalographen) zur Verbindung von menschlichen Gehirnaktivitäten mit Computern und zur Gedankensteuerung von Maschinen [28] sowie mittels Firmengründungen wie 2016 Elon Musks "Neuralink [29]" zur routinemässigen Implementierung von digitalem Leitermaterial in menschliche Gehirne Meilensteine.

Musks Firma [30] präsentierte dazu bereits 2020 Anwendungen an Schweinen sowie im Dezember 2022 an einem Affen [31], der mittels eine Gehirnimplantats einen Cursor auf einem Computerbildschirm steuerte.

Zugleich kündigte Musk an, dass er angewandte Menschenexperimente mit solchen Gehirnimplantaten zur Mensch-Maschine-Steuerung und KI-Verknüpfung noch im Jahr 2023 erwarte [32].

Diese Meilensteine sind trotz ihrer symbolischen Aussagekraft für sich genommen noch keine techno-zivilisatorischen Durchbrüche. Sie entwickeln aber nach und nach das Momentum einer selbsterfüllenden Prophezeiung, indem sie Aufmerksamkeit und Geld anziehen.

Zudem bemühen sich aufsteigende Mächte wie China seit Jahren systematisch [33], auf dem damit verbundenen strategischen Feld: den KI-Humantechnologien zum Weltführer zu werden, um die Maschinisierung des Menschen auch für ihre staatlichen Zwecke auszunutzen.

Kritiker meinen, neben den Anwendungen im erweiterten Gesundheitsbereich sei die Ansammlung von Geld und Macht inzwischen ein ähnlich wichtiger Zweck dieser Stoßrichtung geworden. Ankündigungen von Durchbrüchen am Technologie-Mensch-Schnittpunkt blieben, so diese Kritik, oft so wie die Ankündigung von Qualitätssprüngen in der Anwendung von maschinellem Lernen auf Datenqualität und Datenvalidierung: "zu gut, um wahr zu sein [34]".

Denn KI sei noch weit davon entfernt, tatsächlich intelligent im menschlichen Sinn zu operieren, um davon ausgehend tatsächlich Grundlagenmechanismen des Menschen direkt mit Maschinen zu verschalten.

Die Anerkenner und Befürworter der offenbar entstehenden neuen "Techno-Humanen Kondition" [35] dagegen verorten sich bereits mitten im Geschehen hin zu einem Technikmenschen, der im Ansatz schon einen "Menschen nach dem Menschen" darstellt [36].

Dieser Mensch wird, so die Befürworter, durch die bisherige conditio humana hindurchstoßen in eine neue Dimension techno-biologischer Aufrüstung – und zwar dadurch, dass sich der Mensch in seiner körperlichen und geistigen Betätigung mittels KI-Prozessen mit Computern, Maschinen und technischen Prothesen verlinkt.

Als Folge davon müsse Identität in der hypertechnologischen Gesellschaft neu definiert werden [37] – und damit auch die meisten kulturellen, sozialen, ethischen und politischen Begriffe. Es entstehe allmählich tatsächlich ein "Technikselbst [38]" (technoself [39]), das weder ganz Technik noch ganz menschliches Selbst sei.

Dieses werde sich angesichts der Verzögerung von Kultur- hinter Technikprozessen erst in einigen Jahren seiner Selbsterforschung zuwenden. Bis dahin hänge der Mensch in der Technologie in einer Art Übergangssituation, in der sein "neues Selbst" ungeklärt bleibt.

Ideologische Wegscheide

Zwischen Kritikern, Anerkennern und Befürwortern dieser Maschinisierung des Menschen entsteht heute nach und nach eine gewisse ideologische Wegscheide [40]. Sie ist die zwischen Transhumanisten (beziehungsweise Biotransformativen) auf der einen Seite – und Humanisten (beziehungsweise Biokonservativen) auf der anderen Seite. Also zwischen denen, die – wie etwa der "Globale Zukunftskongreß 2045" (GF2045 [41]) bereits im März 2013 mit seinem programmatischen offenen Brief [42] an den damaligen UN-Generalsekretär Ban Ki-moon – mit allen technischen Mitteln "über den bisherigen Menschen hinaus" wollen; und denen, die für mehr Denk- und Erkenntnisarbeit plädieren [43] und empfehlen, die Entwicklung zumindest temporär zu verlangsamen.

Zu den Biotransformativen gehören auch Biohacker [44], die im Begriff sind, ihre eigene Subkultur auszubilden; zu den Biokonservativen Teile der zeitgenössischen Philosophie, der akademischen Zukunftsforschung und -lehre [45] und der Religionen, einschliesslich der Kirchen.

Die Lager sind ideologisch gespalten – zwischen einander, aber auch in sich und nach innen. Flügelbildungen dominieren heute auf beiden Seiten. Und an den Flügeln geraten die üblicherweise ideologisch so stark hervorgehobenen Unterschiede zwischen Humanisten, Posthumanisten und Transhumanisten [46] in der Realität politischer Haltungen und Verhaltensweisen ins Fliessen, weil sie sich in ihrer Radikalität ähneln. Sowohl Transhumanisten wie Neohumanisten neigen allzu oft zu einer "Wir gegen Sie"-Haltung, in der der Wille zur politischen Mitte [47], und damit auch Aspekte kompromißbereiter Vernunft, auf der Strecke bleiben.

Sicher scheint bei alledem nur eines: der Trend zur Maschinisierung des Menschen stößt immer deutlicher von der klassischen Mensch-Maschine-Interaktion [48] zur Mensch-Maschine-Konvergenz [49] vor. Er fördert diese Konvergenz jedoch nicht nur in der Technik, sondern auch in der Gesellschaft – nicht zuletzt im kollektiven Imaginären. In der derzeitigen Übergangssituation verschwimmen Begriffe von Evolution und Antizipation, Kontinuität und Disruption, erkenntnis- und gewinnorientierte Visionen.

Von den Befürwortern wird die Entwicklung zur Cyborgisierung meist als unvermeidliche Einbahnstraße dargestellt: der Mensch soll mittels Gedanken Maschinen steuern, Körperteile austauschen und damit seine Begrenzungen überwinden und seine Befähigungen ausdehnen können.

Den Skeptikern stellen sich dabei jedoch ethisch und politisch hoch relevante Fragen: Wird es wegen der zunehmenden Verschmelzung von Technik mit menschlichem Körper und Geist umgekehrt möglich, von außen auf intime innere Vorgänge des Menschen zuzugreifen – zum Beispiel mittels des Einsatzes fortgeschrittenster KI Gedanken und Körperfunktionen zu hacken [50]?

Und wenn ja: Wer beschützt Gesellschaft und Individuum davor? Wer definiert sie in ihren Eigenrechten unter neuen Bedingungen neu? Wie soll das entstehende Feld der Cyborgisierung überhaupt geregelt werden, wenn es rasch an anthropologischer, psychologischer, wirtschaftlicher und sozialer Bedeutung gewinnt? Reicht dazu die von den Befürwortern für die kommenden Jahre angestrebte "Cyborg Bill of Rights [51]" oder auch "Universale Erklärung der Cyborgrechte [52]" analog zur "Universalen Erklärung der Menschenrechte" aus?

Stoßrichtung 2: Die Vermenschlichung der Maschine (Anthropogenisierung)

Der zweite Trend, der in vielerlei Hinsicht umgekehrt und komplementär zur Maschinisierung des Menschen erfolgt, ist die Vermenschlichung der Maschine. Seit einigen Jahren entsteht eine neue Generation von KI-Robotern mit menschenähnlichem Aussehen.

Sie erhalten zwecks besserer Akzeptanz oft weibliche Körperzüge – genauer gesagt Charakteristiken, die den Klischees von "Weiblichkeit" entsprechen [53]. Analytiker nennen das den Übergang der humanen in eine post-humane Welt [54] – mit schein-humanem (fake-human) und schein-geschlechtlichem (fake-gender) Antlitz.

Das wichtigste Beispiel, das aus Sicht vieler Beobachter die Richtung vorgibt, ist immerhin bereits mehr als fünf Jahre alt. Im Oktober 2017 wurde dem ersten "weiblichen", von der U.S.-Firma Hanson Robotics in China gebauten und angeblich mit "weicher" KI ausgestatteten Roboter "Sophia" bei einem Investorentreffen die Staatsbürgerschaft des Uno-Mitgliedsstaates Saudi-Arabien verliehen [55].

Der damit verbundene Status des Staatsbürgers gilt für die "Roboterin" seither mittels Uno-Wechselseitigkeitsprinzip grundsätzlich weltweit. Die Folgen für aktuelle und künftige Menschen- und Personenrechte, aktive und passive Wählerrechte, das internationale Recht sowie das juridische Grundsatzverhältnis zwischen Robotern, Menschen und KI sind ebenso vielfältig wie unklar.

Vertreter der Vereinten Nationen sprachen wiederholt Warnungen vor solchen Alleingängen am KI-Maschine-Mensch-Schnittpunkt durch autoritäre Regime aus [56]. Dabei wiesen sie auf die indirekte Unterminierung bisher grundlegender humanistisch-anthropologischer Standards hin.

Der Fall beschäftigt seitdem das Europäische Parlament [57]. Es hat mit zwei gegensätzlichen Motionen 2017 sowohl für wie gegen die Verleihung von Person-Rechten – die sogenannte "e-personality" – an bestimmte KI-Roboter gestimmt. Die Debatte ist über die Jahre durch die schnelle Entwicklung von Technik und KI in Einzelaspekten noch komplexer und differenzierter geworden, Lösungsmodellen aber wenig nähergekommen. Das EU-Parlament hat im September 2020 ein "Spezialkommittee zur Künstlichen Intelligenz im digitalen Zeitalter [58]" (Aida) eingesetzt.

Bild 1 von 16

Roboter (16 Bilder) [59]

[60]

Aida hat im Mai 2022 eine "KI-EU-Roadmap bis 2030 [62]" vorgeschlagen. Dabei wird vor allem das KI-Fortschrittspotential in Bezug auf die Verrichtung wiederholungsorientierter Arbeiten in den Mittelpunkt gestellt, aber auch das Risiko der Überwachung. Die Mensch-KI-Beziehung wird darin, wie bislang fast immer, nur in wenig aussagekräftigen Standardsätzen guten Willens abgehandelt.

Wie sich diese Debatte auch weiterentwickelt: konkrete Fragen werden früher oder später behandelt werden müssen. Darunter sind die Herausforderungen: Wer haftet, wenn KI-Roboter immer intelligenter werden und vielleicht in absehbarer Zeit teil-, semi-autonom oder sogar sektoral autonom agieren? Wie ist ihre Verantwortungs- und Schuldfähigkeit? Wo liegen – als Effekt von Verantwortung – umgekehrt ihre Rechte?

Wird das menschenähnliche Aussehen von KI-Robotern selbst zum Sicherheitsrisiko, wie sogar die Erbauer von "Sophia" in Betracht ziehen [63]? Und vor allem: Was kann und soll der juridische, der gesellschaftliche und der politische Status von in Aussehen und Verhalten immer menschenähnlicheren KI-Robotern im Vergleich zu Menschen sein – vor allem dann, wenn beide sich im Alltag immer stärker vermischen [64] und Experten davon ausgehen, dass es in der zweiten Jahrhunderthälfte ähnlich viele menschenähnliche Roboter in unseren Gesellschaften geben könnte wie Menschen [65]?

Der Begriff der "einzigartigen Identität" wird zunehmend ambivalent

Dazu wird für die kommenden Jahre laut Experten wie Andrea Bertolini vom RoboLaw Laboratorium der Hochschule Pisa [66] und führenden interdisziplinären Wissenschaftlern wie Alain Bensoussan [67] zwar weniger in autoritären Gesellschaften wie China, vor allem aber in den offenen Gesellschaften Europas und des Westens die Diskussion um Begriff, Inhalt und Perspektive von "einzigartiger Identität" (unique identity) zentral werden.

Laut Bensoussan, der die EU auf verschiedenen Ebenen beriet, sind alle Menschen Personen, aber künftig nicht mehr alle Personen Menschen. Verbunden seien in einigen Jahren beide: KI-Roboter und Menschen durch "einzigartige Identität". Laut Bensoussan stehen intelligenten KI-Robotern deshalb früher oder später Personenrechte zu. Das würde schon bald zu einer "neuen Robotermenschheit" führen, aus der eine "neue Zivilisation" hervorgehe [68].

Diese Sichtweise ist jedoch umstritten. Denn sie würde massive soziale, politische und kulturelle Folgen zeitigen – und die bisherigen humanistischen Grundlagen europäisch-westlicher Politik und Gesellschaft aufheben könnte. Deshalb hat die EU-Kommission in ihrer KI-Strategie vom April 2018 die Verleihung von (bisherigen) Personenrechten an Roboter grundsätzlich abgelehnt [69] – vorerst.

Wesentliches Ergebnis dieser Auseinandersetzung ist bislang: die Entscheidungsträger auf allen Ebenen sind gefordert, sich mit dem Begriff "einzigartige Identität" und seiner Stellung in der Gesellschaft frühzeitig, umfassend und vertieft zu beschäftigen – weit mehr als bisher. Denn die offene Gesellschaft wird auf dem Weg in die hyper-technologische Zivilisation an zentraler Stelle Entscheidungen darüber treffen müssen, wer und was darunter fällt und wer und was nicht.

Das kann sie aber nur, wenn sie Zivilgesellschafter, Ökonomen, Techniker und Ingenieure, Kybernetiker, KI-Spezialisten, Politiker, Philosophen, Neurologen, Natur-, Sozial-, Kultur- und Geisteswissenschaftler und all jene, die in irgendeiner Weise am Identitätsbegriff denken und forschen, frühzeitig in "task forces" zusammenführt und sich um ein ganzheitliches, inter- und transdisziplinär zu gewinnendes Bild [70] bemüht.

Weil aber in der sozialen und politischen Praxis ebenso wie im wissenschaftlichen und akademischen Mainstream immer noch technische Spezialisierung, Markt- und Produkterwägungen sowie Machbarkeit ausschlaggebend sind, ist eine solche Auseinandersetzung bisher nur ungenügend erfolgt. Das sollte sich angesichts der nun beginnenden – und in den kommenden Jahren erweitert bevorstehenden – Tragweite des Themas ändern.

Ein Vorbild dafür kann zum Beispiel die Unesco-Initiative "Ethik der Künstlichen Intelligenz [71]" sein. Sie führte bei der Unesco-Generalkonferenz im November 2021 in Paris zur Unterzeichnung der "Empfehlung zur Ethik der Künstlichen Intelligenz [72]". Es ist das erste Instrument global standardsetzender Regulierung seiner Art, das inmitten der KI-Revolution Menschenrechte und menschliche Würde schützen soll, während es sich dem sinnvollen Fortschritt nicht versagt.

Die Unesco-Initiative reagiert auf die Tatsache, dass derzeit – gewollt oder ungewollt – eine globale KI-Mensch-Synthese entsteht, deren Dimensionen noch gar nicht absehbar sind: dass auf der einen Seite "KI die Welt immer umfassender und tiefgehender verändert [73]", während zugleich auf der anderen Seite "Menschen immer mehr innerhalb von KI-Feldern evolvieren [74]".

Dass von den neuesten Durchbrüchen an der KI-Mensch-Schnittstelle [75] "die Zukunft der Menschheit abhängt [76]", scheint als ausgemacht. Doch bei genauer Betrachtung sind damit viele Fragen verbunden.

URL dieses Artikels:
https://www.heise.de/-7489096

Links in diesem Artikel:
[1] https://www.nature.com/articles/laban.1115
[2] https://www.nature.com/articles/laban.1115
[3] https://www.frontiersin.org/articles/10.3389/fnins.2016.00563/full
[4] https://www.malwarebytes.com/blog/news/2019/08/how-brain-machine-interface-bmi-technology-could-create-internet-of-thoughts
[5] https://www.techtarget.com/searchenterpriseai/definition/AI-Artificial-Intelligence
[6] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7327323/
[7] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7327323/
[8] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7327323/
[9] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7327323/
[10] https://www.devstud.org.uk/conference/conference-2023/
[11] https://nomadit.co.uk/conference/dsa2023/p/13005
[12] https://www.acatech.de/publikation/mit-ki-zu-innovation-und-nachhaltigem-wachstum/
[13] https://www.acatech.de/publikation/mit-ki-den-nachhaltigen-wandel-gestalten/
[14] https://www.un.org/sg/en/content/sg/speeches/2020-09-21/remarks-general-assembly-ceremony-marking-the-75th-anniversary-of-the-united-nations
[15] https://www.un.org/sg/en/content/sg/statement/2021-01-10/secretary-generals-remarks-the-commemoration-of-the-75th-anniversary-of-the-first-meeting-of-the-united-nations-general-assembly-delivered
[16] https://oecd.ai/en/wonk/save-the-planet
[17] https://www.aifortheplanet.org/
[18] https://www.unesco.org/en/articles/ai-planet-highlighting-ai-innovations-sustainable-development-viva-tech
[19] https://www.oecd.org/digital/artificial-intelligence/
[20] https://oecd.ai/en/
[21] https://hai.stanford.edu/news/introducing-stanfords-human-centered-ai-initiative
[22] https://hai.stanford.edu/
[23] https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
[24] https://www.extremetech.com/extreme/236417-switzerland-is-holding-the-worlds-first-cyborg-olympics
[25] http://www.cybathlon.ethz.ch/cybathlon-2020.html
[26] https://cybathlon.ethz.ch/en/events/edition/cybathlon-2024
[27] https://www.emotiv.com/
[28] https://www.emotiv.com/brain-controlled-technology/
[29] https://www.independent.co.uk/news/world/americas/elon-musk-neuralink-brain-computer-startup-a7916891.html
[30] https://www.businessinsider.com/neuralink-elon-musk-microchips-brains-ai-2021-2?r=US&IR=T
[31] https://edition.cnn.com/2022/11/30/tech/elon-musk-neuralink-show-and-tell-scn/index.html
[32] https://www.youtube.com/watch?v=btWKkjbX-uc
[33] http://#75f70e4a28e9
[34] https://www.sv.uio.no/isv/english/research/groups/political-data-science/events/too-good-to-be-true-machine-learning-in-survey-val.html
[35] https://mitpress.mit.edu/books/techno-human-condition
[36] https://www.amazon.it/Man-After-Anthropology-Future/dp/0312035608
[37] https://www.igi-global.com/book/handbook-research-technoself/67420
[38] https://www.igi-global.com/chapter/emerging-field-technoself-studies-tss/70345
[39] https://www.igi-global.com/chapter/emerging-field-technoself-studies-tss/70345
[40] https://www.thenewatlantis.com/publications/humanism-and-transhumanism
[41] http://2045.com/
[42] http://2045.com/articles/31277.html
[43] https://www.tandfonline.com/doi/abs/10.1080/05775132.2015.1123574?tab=permissions&scroll=top
[44] https://www.youtube.com/watch?v=NWvUs8el8-A
[45] https://www.ewi-psy.fu-berlin.de/v/master-zukunftsforschung/index.html
[46] https://www.academia.edu/353704/Humanism_Transhumanism_and_Posthumanism
[47] https://www.nomos-shop.de/nomos/titel/die-erneuerung-der-politischen-mitte-id-110405/
[48] https://www.acatech.de/Publikation/innovationspotenziale-der-mensch-maschine-interaktion/
[49] https://www.heise.de/tp/features/Deutschland-und-die-Zukunftstechnologien-3454459.html
[50] http://sites.ieee.org/futuredirections/2018/10/07/hacking-humanitys-brain/
[51] https://cosmosmagazine.com/people/society/round-up-a-short-guide-to-the-declaration-of-cyborg-rights/
[52] https://cyborgrights.eu/
[53] https://link.springer.com/chapter/10.1007/978-3-476-04967-4_10
[54] https://www.cato-unbound.org/print-issue/2341
[55] https://www.cato-unbound.org/2018/04/09/roland-benedikter/citizen-robot
[56] https://www.africanews.com/2017/10/31/robots-rising-sophia-the-robot-gets-saudi-citizenship-hi-tech/
[57] https://www.cato-unbound.org/2018/04/20/roland-benedikter/gradual-way-forward
[58] https://www.europarl.europa.eu/committees/en/aida/home/highlights
[59] https://www.heise.de/bilderstrecke/2363642.html?back=7489096
[60] https://www.heise.de/bilderstrecke/2363642.html?back=7489096
[61] http://creativecommons.org/licenses/by-sa/4.0/deed.en
[62] https://www.europarl.europa.eu/news/en/press-room/20220429IPR28228/artificial-intelligence-meps-want-the-eu-to-be-a-global-standard-setter
[63] https://www.youtube.com/watch?v=W0_DPi0PmF0
[64] https://www.nbcnews.com/id/wbna51808101
[65] https://www.mirror.co.uk/news/weird-news/robots-will-commonplace-homes-2050-14105140
[66] https://www.santannapisa.it/it/andrea-bertolini
[67] https://www.alain-bensoussan.com/avocats/construire-un-droit-specifique-aux-robots/2017/11/28/
[68] https://www.alain-bensoussan.com/avocats/construire-un-droit-specifique-aux-robots/2017/11/28/
[69] https://www.euractiv.com/section/digital/opinion/the-eu-is-right-to-refuse-legal-personality-for-artificial-intelligence/
[70] https://robohub.org/three-concerns-about-granting-citizenship-to-robot-sophia/
[71] https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
[72] https://unesdoc.unesco.org/ark:/48223/pf0000381137
[73] https://builtin.com/artificial-intelligence/artificial-intelligence-future
[74] https://www.spiceworks.com/tech/artificial-intelligence/guest-article/the-evolving-role-of-humans-with-ai/
[75] https://now.northropgrumman.com/?s=artificial+intelligence&utm_source=google&utm_campaign=fy23framework&utm_medium=kw&utm_audience=list_j&utm_content=null_null&utm_format=copy&utm_code=OTH-13321&gclid=Cj0KCQiA54KfBhCKARIsAJzSrdoF-h6O_25d0P0D7xly4oyoUMjVBD_HDQbpcVEpq6UV9hSRa79XVNAaAmwSEALw_wcB
[76] https://eloncdn.blob.core.windows.net/eu3/sites/964/2020/10/AI_and_the_Future_of_Humans_12_10_18.pdf
[77] https://www.heise.de/tp/features/Entstehung-von-Hybridgebilden-7489102.html
[78] https://www.eurac.edu/en/people/roland-benedikter?persId=41927
[79] https://www.eurac.edu/en/institutes-centers/center-for-advanced-studies/research-group/unesco-chair
[80] mailto://roland.benedikter@eurac.edu

Copyright © 2023 Heise Medien