Seite 2: Ethische Prinzipien: Datenschutz, Identität, Gleichheit des Zugangs, Vermeidung von Vorurteilen

Als erstes Prinzip machen die Autoren geltend, dass mit Neurotechnik noch mehr persönliche Daten erfasst und gesammelt werden. Sobald neuronale Aktivitätsmuster über mit dem Internet verbundene Geräte/Schnittstellen von Unternehmen, Regierungen oder Hackern ausgewertet werden können, lassen sich die mentalen Zustände eines Menschen nachverfolgen und möglicherweise auch manipulieren. Die Menschen müssten die Möglichkeit besitzen, ihre neuronalen Daten privat zu halten, beispielsweise durch eine voreingestellte Opt-out-Möglichkeit. Und weil wahrscheinlich Menschen dennoch freiwillig ihre Daten weitergeben, müsste zumindest der Kauf, die kommerzielle Weitergabe und die Nutzung von neuronalen Daten streng reguliert werden, ähnlich wie das Verbot im Transplantationsgesetz für den Kauf menschlicher Organe. Eingeschränkt werden sollte auch eine zentrale Verarbeitung der Daten.

Als zweites Prinzip wird der Schutz von Identität und Handlungsfähigkeit bezeichnet. Schließlich können schon Techniken wie die Tiefenstimulation zu Irritationen führen. Wenn dann Geräte mit Gehirnschnittstellen und maschinellem Lernen es beispielsweise, so die Autoren, Absichten schneller etwa durch eine Auto-Complete- oder eine Auto-Correct-Funktion in eine Handlung zu überführen, Geräte über weite Entfernungen durch Gedanken gesteuert oder mehrere Gehirne zusammengeschaltet sind, um gemeinsam zu arbeiten, dann wird das Verständnis von der Identität einer Person und vom Ort des Handelns tiefgreifend verändert.

Vorgeschlagen wird ein neues UN-Abkommen, um Verbote für Neurotechnik und Maschinenintelligenz zu definieren. Als Vorbild sehen die Autoren das Abkommen zum Schutz aller Personen vor dem Verschwindenlassen, das 2010 in Kraft getreten ist, aber erst von 58 Staaten ratifiziert, Staaten wie die USA, Russland oder die USA haben es nicht einmal unterzeichnet.

Als drittes Prinzip, das auch wenig Chancen haben dürfte, wird die Gleichheit des Zugangs zu Neurotechnik gefordert. Befürchtet wird ein Wettrennen auf Neurotechniken, die die kognitive und körperliche Leistung der Menschen verbessern, aber nur für diejenigen verfügbar sind, die dafür bezahlen können. So könnte sich aus der technischen Überlegenheit eine weitere Diskriminierung von Menschen ergeben, die sich Enhancement-Techniken nicht leisten können. Verbote würde hier nichts nützen, denn dann würden die Techniken vermutlich auf dem Schwarzmarkt gehandelt. Streng und international reguliert werden müsste der Einsatz von Neurotechnik auf militärischem Gebiet, insgesamt seien Beschränkungen der Enhancement-Techniken erforderlich. Aber dazu wird es bereits zu spät sein, weil hier viele staatliche und private Projekte bereits unterwegs sind und die Diskussion darüber noch nicht wirklich bis auf Nischen stattgefunden hat.

Und schließlich müsste auch als viertes Prinzip vermieden werden, Vorurteile in neurotechnische Geräte einzubetten und wirksam werden zu lassen. Techniken können bestimmte Gruppen privilegieren oder diskriminieren, so die Autoren. So hatte man 2015 bemerkt, dass Google-Algorithmen, die Jobs anboten, Frauen einen geringeren Lohn offerierten als Männer. Eine von Strafverfolgungsbehörden genutzte Software sagte fälschlich voraus, dass schwarze Straftäter mit höherer Wahrscheinlichkeit rückfällig werden als vergleichbare weiße. Die Autoren weisen auf eine Studie hin, nach der es sehr schwierig sei, Fairness streng mathematisch zu definieren.

Empfohlen wird, Maßnahmen zur Bekämpfung von Vorurteilen zur Norm für Maschinenlernen zu machen und es vor allem bereits diskriminierten Gruppen zu ermöglichen, schon früh in der Entwicklung Einblick in die Algorithmen und Geräte zur Korrektur zu ermöglichen. Kaum vorstellbar unter derzeitiger Rechtslage ist, dass sich Firmen hier in die Karten schauen lassen.

Eine Ethik für Wissenschaftler und Techniker?

Tatsächlich wäre eine breite Diskussion über die möglichen Gefährdungen von Neurotechniken in Verbindung mit Künstlicher oder Maschinen-Intelligenz an der Zeit, bevor der Zug ganz abgefahren ist. Dass Wissenschaftler und Techniker, die von der Forschung und Entwicklung in diesen Gebieten leben, hier selbst in größeren Maße aktiv werden und die Forschung beeinflussen können, ist nicht wirklich abzusehen - und ist auch noch nie geschehen. Es braucht gesellschaftlichen Druck, aber wenn auch nur wenige Staaten internationalen Abkommen zur Regulierung von Waffen, Forschung oder Technik nicht beitreten, wird es immer Druck und eine Art Wettrüsten geben.

Die Autoren sehen das Problem, obgleich sie zu flüchtig darüber hinweggehen, wie denn ethische Prinzipien in der wirklichen Welt verankert werden können. "Die Geschichte weist darauf hin", so schreiben sie, "dass die Jagd nach dem Profit oft die soziale Verantwortung in der Welt der Privatunternehmen übertrumpfen wird."

Dabei geht es bei Wissenschaftlern und Technikern nicht nur um Profit, sondern schlicht um ein Auskommen, das sie dazu führt, ethische Bedenken hintanzustellen. Und es geht nicht nur um Privatunternehmen, in Staaten wird etwa aus nationalem Interesse der militärischen, technischen und wirtschaftlichen Überlegenheit auch gefördert, was ethisch bedenklich ist, in der Rüstungsforschung allemal.

Es ist ein wenig naiv anzunehmen, dass Wissenschaftler und Techniker viel anders handeln und entscheiden würden, wenn im Zuge ihrer Ausbildung Ethik zur Pflicht gemacht würde, wie es die besorgten Autoren vorschlagen. So könnten Angestellte angeblich tiefer darüber nachdenken, "wie sie Fortschritte verfolgen und Strategien anwenden können, die zur Gesellschaft eher Konstruktives beitragen, als sie zu zerbrechen". Ähnlich würden Mediziner im Studium über ethische Prinzipien unterrichtet, die zum Ablegen des Hippokratischen Eids gehören.

Das hat zumindest einzelne nicht daran gehindert, grausame Experimente mit Menschen durchzuführen oder auch wie kürzlich im Krieg gegen den Terror im Dienste der US-Regierung Foltermethoden zu entwickeln und zu beaufsichtigen. Und Angestellte, die in Unternehmen arbeiten, die selbst nur an den Profit denken und bestenfalls sich nur an die gesetzlichen Bestimmungen halten, werden unter Druck kommen, sollten sie plötzlich zu sehr auf ethische Prinzipien drängen.