archenoe schrieb am 27. Juli 2009 22:58
> demon driver schrieb am 27. Juli 2009 17:11
>
> [...]
> > Sobald Maschinen in der Lage sind, sich ohne weiteres Zutun des
> > Menschen selbst zu verbessern, sind die Möglichkeiten des Menschen
> > und deren Grenzen für die weitere Entwicklung der Maschine nicht mehr
> > relevant. Und Maschinen in diese Lage zu versetzen überschreitet
> > menschliche Möglichkeiten keineswegs. Ist der Startschuss gefallen,
> > werden menschliche Kenntnisse, Techniken, Widersprüche,
> > Bewusstseinsvorgänge für das Potenzial der maschinellen
> > Weiterentwicklung immer unerheblicher.
>
> Das, so nehme ich an, ist der Kernpunkt Deiner Aussage.
>
> Wie stellst Du Dir eine sich selbst verbessernde Maschine vor? Ist
> sie Deiner Ansicht nach völlig von Planung, Überwachung oder noch
> simpler vom On/Off-Schalter, der von einem Menschen betätigt wird,
> entkoppelt? Ist das Programm der Maschine ein sich selbst
> fortschreibendes und entwickelndes, völlig unabhängig von
> menschlicher Steuerung?
Woher soll ich das wissen? Ich sage nur, was geht, wenn man es
zulässt - und prinzipiell möglich wird auch das, was du da
skizzierst, irgendwann werden.
> Solltest Du das annehmen, so gibt es erhebliche Einwände gegen diese
> "Phantasie".
>
> 1. Die Implementation der "Software, die solche Selbstlernprozesse
> ermöglicht, ist Menschenwerk. Auch noch die weiteren scheinbar
> sebstständigen Stufen des maschinellen "Selbstlernens", die ja
> "programmiert" sein müssen, sonst lernt die Maschine gar nix, sind
> von Menschen vorgeplant.
Klar. So what?
> Wo also läge der Unterschied zum
> Kernreaktor, der uns möglicherweise um die Ohren fliegt?
Die Frage verstehe ich nicht, denn ich sehe im Grunde genommen nicht
eine einzige Gemeinsamkeit. Der "Kernreaktor" ist hier
vergleichsweise so "intelligent" wie ein Legostein (oder ein Stein,
for that matter...).
> Du meinst
> sicherlich in dem menschenähnlichen "Selbstlernprozess". Ist das aber
> nicht nur ein gradueller und kein substanzieller Unterschied zum
> Kernkraftwerk?
Nein, definitiv nicht!
> Entsteht die Verwirrung nicht nur dadurch, dass
> bestimmte Maschinen (Roboter) vom Menschen so konstruiert werden,
> dass sie menschenähnlich wirken, weil der Konstrukteur sich selbst
> abbildet und sich keine bessere, sondern nur eine schnellere,
> präzisere etc. Version seiner selbst vorstellen kann?
Nein. Menschenähnlichkeit ist für mich eigentlich gar kein Thema. Es
geht um die kognitive Leistungsfähigkeit, egal ob die irgendwie
menschenähnlich ist oder nicht. (Bis zu einem gewissen Grad wird sie
es notwendigerweise sein, auch über die menschgemachten Grundlagen
hinaus, da Logik und Vernunft, wie sie menschliche Intelligenz
ausmachen, bis zu einem gewissen Grad universell sind, und ich denke,
dass sich auch Maschinenintelligenz in diese Richung entwickeln muss,
sonst wäre es keine Weiterentwicklung...)
> 2. Warum sollten irgendwelche Forschergruppen, Regierungsstellen,
> Kapitalverbände etc. die Kontrolle über "Selbstlernmaschinen"
> aufgeben?
Das ist eine Frage, die sich für mich erst mal gar nicht stellt, wenn
es darum geht, was technisch möglich ist. Ob die Menschen etwas, was
technisch möglich ist, konkret zulassen werden, wenn es soweit ist,
kann ich nicht beurteilen, zumal vermutlich keiner von uns absehen
kann, wie lange es bis dahin dauert und wie die gesellschaftlichen
Verhältnisse dann aussehen.
Unter Verhältnissen kapitalistischer Warenproduktion allerdings würde
ich annehmen, dass man es letztlich zulassen wird (muss), wenn damit
weitere Automations- und Produktivitätsfortschritte verbunden sind,
und davon gehe ich aus.
> Selbstverständlich ist es möglich, dass Technik so
> funktioniert oder unerwünschte "Nebenwirkungen hat, wie die
> Konstrukteure und ihre Auftraggeber sich das nicht gedacht haben.
> Automobile sind auch nicht zur Tötung von Verkehrsteilnehmern
> entwickelt worden (nicht mal im Kapitalismus ;-)). Die Vorstellung,
> dass die Kontrolle/Überwachung vollends versagt, ist zwar nicht
> völlig abwegig, aber eben nicht auf der Ebene einer phantasierten
> "bewussten" Maschine, die sich autonom gegen Menschen oder die
> Menschheit richtet, sondern auf der Ebene der nicht
> fehlerfreundlichen, sondern nur risikogeminderten Technik. In diesem
> Zusammenhang wird deutlich, dass Du meinen Hinweis auf Mensch =
> künstliche Intelligenz und die Produktion von Menschen (=
> Bewusstsein, Moral etc.) durch Menschen nicht nachvollziehen willst.
> Noch einmal zugespitzt: Wenn Menschen sich selbst steuernde, von
> menschlicher Steuerung völlig unabhängige Maschinen konstruieren
> sollten, sind dies keine Maschinen mehr, sondern Menschen (entstanden
> durch andere Produktionsweisen als die bisher bekannten). Der Begriff
> Maschine ist nur sinnvoll als Abgrenzung vom Menschen.
Entschuldige, aber das ist doch albern. Wenn man sich
vergegenwärtigt, was so ein "Maschinenwesen" (ich nehme das einfach
mal als Begriff) alles weiterhin vom Menschen unterscheiden würde,
sind die Unterschiede zwischen Mensch und "Maschinenwesen" doch immer
noch mindestens genausogroß wie die zwischen dummer Maschine und
"Maschinenwesen", selbst wenn man voraussehen könnte, wohin sich
sowas entwickelt.
> 3.Die "menschliche[n] Kenntnisse, Techniken, Widersprüche,
> Bewusstseinsvorgänge" gehen in die Maschinentechnik ein und sind "für
> das Potenzial der maschinellen Weiterentwicklung" zentral, wesenhaft
> und unerlässlich. Ich möchte sogar behaupten, dass sie bzgl. eines
> Roboters bedeutsamer und eingreifender sind als z.B. bzgl. eines
> Hammers oder Schraubendrehers. Ich kann überhaupt nicht erkennen,
> warum sie "unerheblicher" werden sollten. Je komplexer die Technik,
> je tiefer steckt "der Mensch" in der entwickelten Technik selbst.
Nö, das ist ein Dogma. Je automatisierter und gleichzeitig autonomer
komplette Fertigungsprozesse werden, umso weniger ist das der Fall.
> Ich werde den Verdacht nicht los, dass Du entgegen Deiner ansonsten
> materialistischen Weltsicht bei diesem Thema in eine
> phantasmagorische Furcht vor verselbständigten Produkten abgleitest
> und so dem Fetischcharakter der Ware (hier: Roboter) aufsitzt, weil
> diese als quasi lebendiges Wesen erscheint.
Engschuldige, aber das ist Riesenblödsinn. Ich habe und mache mir
überhaupt kein Bild von diesen "Maschinenwesen", nicht mal von der
Art ihrer Intelligenz, und ich habe davor auch erst mal keine
"Angst". Ich kann nur aufgrund meines bisherigen Einblicks in die
Materie (einerseits als beruflich Computerkundiger, andererseits als
einer, der sich seit langem nicht unkritisch auch mit diesbezüglichen
Utopien beschäftigt) zu keinem anderen Schluss kommen.
> Zur Sicherheit noch einmal: Ich kann mir durchaus denken, dass
> Maschinen/Roboter, die weit entwickelt sind, von Menschen gezielt
> gegen Menschen eingesetzt werden. Ich kann mir auch denken, dass
> Maschinen/Roboter enormes nicht beabsichtigtes Unheil anrichten
> können (gleichsam als akzeptierte Begleiterscheinung des irrationalen
> Selbstzwecks des Kapitals oder des staatlichen Machterhalts -
> geschieht ja auch ständig), nicht aber, dass sie sich in einer Art
> Verschwörung gegen die Menschheit richten und die Herrschaft über die
> Menschen erringen.
Kann mich nicht erinnern, etwas derartiges behauptet zu haben -
obwohl ich es auch nicht kategorisch ausschließen würde. Wohin es
geht, wird einfach davon abhängen, welchen Grad der Autonomie zu
erlangen der Mensch und die menschliche Gesellschaft den Maschinen
gestatten werden, und inwieweit es ggf. gelingen wird, sie in ihrer
zugelassenen Autonomie dann noch zu lenken und zu kontrollieren.
Das *Potenzial* ist aber auf jeden Fall unbegrenzt, beginnend mit dem
Moment, an dem man Maschinen die Fähigkeit und die Möglichkeit gibt,
sich selbst weiterzuentwickeln.
Grüße,
d. d.
> demon driver schrieb am 27. Juli 2009 17:11
>
> [...]
> > Sobald Maschinen in der Lage sind, sich ohne weiteres Zutun des
> > Menschen selbst zu verbessern, sind die Möglichkeiten des Menschen
> > und deren Grenzen für die weitere Entwicklung der Maschine nicht mehr
> > relevant. Und Maschinen in diese Lage zu versetzen überschreitet
> > menschliche Möglichkeiten keineswegs. Ist der Startschuss gefallen,
> > werden menschliche Kenntnisse, Techniken, Widersprüche,
> > Bewusstseinsvorgänge für das Potenzial der maschinellen
> > Weiterentwicklung immer unerheblicher.
>
> Das, so nehme ich an, ist der Kernpunkt Deiner Aussage.
>
> Wie stellst Du Dir eine sich selbst verbessernde Maschine vor? Ist
> sie Deiner Ansicht nach völlig von Planung, Überwachung oder noch
> simpler vom On/Off-Schalter, der von einem Menschen betätigt wird,
> entkoppelt? Ist das Programm der Maschine ein sich selbst
> fortschreibendes und entwickelndes, völlig unabhängig von
> menschlicher Steuerung?
Woher soll ich das wissen? Ich sage nur, was geht, wenn man es
zulässt - und prinzipiell möglich wird auch das, was du da
skizzierst, irgendwann werden.
> Solltest Du das annehmen, so gibt es erhebliche Einwände gegen diese
> "Phantasie".
>
> 1. Die Implementation der "Software, die solche Selbstlernprozesse
> ermöglicht, ist Menschenwerk. Auch noch die weiteren scheinbar
> sebstständigen Stufen des maschinellen "Selbstlernens", die ja
> "programmiert" sein müssen, sonst lernt die Maschine gar nix, sind
> von Menschen vorgeplant.
Klar. So what?
> Wo also läge der Unterschied zum
> Kernreaktor, der uns möglicherweise um die Ohren fliegt?
Die Frage verstehe ich nicht, denn ich sehe im Grunde genommen nicht
eine einzige Gemeinsamkeit. Der "Kernreaktor" ist hier
vergleichsweise so "intelligent" wie ein Legostein (oder ein Stein,
for that matter...).
> Du meinst
> sicherlich in dem menschenähnlichen "Selbstlernprozess". Ist das aber
> nicht nur ein gradueller und kein substanzieller Unterschied zum
> Kernkraftwerk?
Nein, definitiv nicht!
> Entsteht die Verwirrung nicht nur dadurch, dass
> bestimmte Maschinen (Roboter) vom Menschen so konstruiert werden,
> dass sie menschenähnlich wirken, weil der Konstrukteur sich selbst
> abbildet und sich keine bessere, sondern nur eine schnellere,
> präzisere etc. Version seiner selbst vorstellen kann?
Nein. Menschenähnlichkeit ist für mich eigentlich gar kein Thema. Es
geht um die kognitive Leistungsfähigkeit, egal ob die irgendwie
menschenähnlich ist oder nicht. (Bis zu einem gewissen Grad wird sie
es notwendigerweise sein, auch über die menschgemachten Grundlagen
hinaus, da Logik und Vernunft, wie sie menschliche Intelligenz
ausmachen, bis zu einem gewissen Grad universell sind, und ich denke,
dass sich auch Maschinenintelligenz in diese Richung entwickeln muss,
sonst wäre es keine Weiterentwicklung...)
> 2. Warum sollten irgendwelche Forschergruppen, Regierungsstellen,
> Kapitalverbände etc. die Kontrolle über "Selbstlernmaschinen"
> aufgeben?
Das ist eine Frage, die sich für mich erst mal gar nicht stellt, wenn
es darum geht, was technisch möglich ist. Ob die Menschen etwas, was
technisch möglich ist, konkret zulassen werden, wenn es soweit ist,
kann ich nicht beurteilen, zumal vermutlich keiner von uns absehen
kann, wie lange es bis dahin dauert und wie die gesellschaftlichen
Verhältnisse dann aussehen.
Unter Verhältnissen kapitalistischer Warenproduktion allerdings würde
ich annehmen, dass man es letztlich zulassen wird (muss), wenn damit
weitere Automations- und Produktivitätsfortschritte verbunden sind,
und davon gehe ich aus.
> Selbstverständlich ist es möglich, dass Technik so
> funktioniert oder unerwünschte "Nebenwirkungen hat, wie die
> Konstrukteure und ihre Auftraggeber sich das nicht gedacht haben.
> Automobile sind auch nicht zur Tötung von Verkehrsteilnehmern
> entwickelt worden (nicht mal im Kapitalismus ;-)). Die Vorstellung,
> dass die Kontrolle/Überwachung vollends versagt, ist zwar nicht
> völlig abwegig, aber eben nicht auf der Ebene einer phantasierten
> "bewussten" Maschine, die sich autonom gegen Menschen oder die
> Menschheit richtet, sondern auf der Ebene der nicht
> fehlerfreundlichen, sondern nur risikogeminderten Technik. In diesem
> Zusammenhang wird deutlich, dass Du meinen Hinweis auf Mensch =
> künstliche Intelligenz und die Produktion von Menschen (=
> Bewusstsein, Moral etc.) durch Menschen nicht nachvollziehen willst.
> Noch einmal zugespitzt: Wenn Menschen sich selbst steuernde, von
> menschlicher Steuerung völlig unabhängige Maschinen konstruieren
> sollten, sind dies keine Maschinen mehr, sondern Menschen (entstanden
> durch andere Produktionsweisen als die bisher bekannten). Der Begriff
> Maschine ist nur sinnvoll als Abgrenzung vom Menschen.
Entschuldige, aber das ist doch albern. Wenn man sich
vergegenwärtigt, was so ein "Maschinenwesen" (ich nehme das einfach
mal als Begriff) alles weiterhin vom Menschen unterscheiden würde,
sind die Unterschiede zwischen Mensch und "Maschinenwesen" doch immer
noch mindestens genausogroß wie die zwischen dummer Maschine und
"Maschinenwesen", selbst wenn man voraussehen könnte, wohin sich
sowas entwickelt.
> 3.Die "menschliche[n] Kenntnisse, Techniken, Widersprüche,
> Bewusstseinsvorgänge" gehen in die Maschinentechnik ein und sind "für
> das Potenzial der maschinellen Weiterentwicklung" zentral, wesenhaft
> und unerlässlich. Ich möchte sogar behaupten, dass sie bzgl. eines
> Roboters bedeutsamer und eingreifender sind als z.B. bzgl. eines
> Hammers oder Schraubendrehers. Ich kann überhaupt nicht erkennen,
> warum sie "unerheblicher" werden sollten. Je komplexer die Technik,
> je tiefer steckt "der Mensch" in der entwickelten Technik selbst.
Nö, das ist ein Dogma. Je automatisierter und gleichzeitig autonomer
komplette Fertigungsprozesse werden, umso weniger ist das der Fall.
> Ich werde den Verdacht nicht los, dass Du entgegen Deiner ansonsten
> materialistischen Weltsicht bei diesem Thema in eine
> phantasmagorische Furcht vor verselbständigten Produkten abgleitest
> und so dem Fetischcharakter der Ware (hier: Roboter) aufsitzt, weil
> diese als quasi lebendiges Wesen erscheint.
Engschuldige, aber das ist Riesenblödsinn. Ich habe und mache mir
überhaupt kein Bild von diesen "Maschinenwesen", nicht mal von der
Art ihrer Intelligenz, und ich habe davor auch erst mal keine
"Angst". Ich kann nur aufgrund meines bisherigen Einblicks in die
Materie (einerseits als beruflich Computerkundiger, andererseits als
einer, der sich seit langem nicht unkritisch auch mit diesbezüglichen
Utopien beschäftigt) zu keinem anderen Schluss kommen.
> Zur Sicherheit noch einmal: Ich kann mir durchaus denken, dass
> Maschinen/Roboter, die weit entwickelt sind, von Menschen gezielt
> gegen Menschen eingesetzt werden. Ich kann mir auch denken, dass
> Maschinen/Roboter enormes nicht beabsichtigtes Unheil anrichten
> können (gleichsam als akzeptierte Begleiterscheinung des irrationalen
> Selbstzwecks des Kapitals oder des staatlichen Machterhalts -
> geschieht ja auch ständig), nicht aber, dass sie sich in einer Art
> Verschwörung gegen die Menschheit richten und die Herrschaft über die
> Menschen erringen.
Kann mich nicht erinnern, etwas derartiges behauptet zu haben -
obwohl ich es auch nicht kategorisch ausschließen würde. Wohin es
geht, wird einfach davon abhängen, welchen Grad der Autonomie zu
erlangen der Mensch und die menschliche Gesellschaft den Maschinen
gestatten werden, und inwieweit es ggf. gelingen wird, sie in ihrer
zugelassenen Autonomie dann noch zu lenken und zu kontrollieren.
Das *Potenzial* ist aber auf jeden Fall unbegrenzt, beginnend mit dem
Moment, an dem man Maschinen die Fähigkeit und die Möglichkeit gibt,
sich selbst weiterzuentwickeln.
Grüße,
d. d.