stony246 schrieb am 30. Juli 2009 15:05
> Ich glaube aber, es gibt hier ein grundlegendes Mißverständnis. Ich
> glaube, keiner in diesem Thread will, dass die Computer (frei nach
> Moravec) "die Macht übernehmen".
Es ist so, das das durchaus einige wollen. Weil sie glauben, das die
Menscheheit sich ansonsten selbst auslöschen wird, da diverse
kommende Technologien ein Gefährdungspotential haben, welches das
z.B. von Atomwaffen bei weitem übersteigt.
Wenn irgendwann mal jeder in der Lage ist, mal eben im Keller ein
"Doomsday-device" zu basteln, dann wird es halt schwer zu verhindern,
das das nicht auch tatsächlich mal jemand tut und (absichtlich oder
unabsichtlich) einsetzt.
Als Resultat hoffen manche Leute daher, rechtzeitig eine "friendly
AI" zu bekommen, welche dann als "wohlmeinender Diktator" die
Menschheit vor sich selbst schützen wird, und aufgrund ihrer
überlegenen Intelligenz einfach ruck-zuck ein Gegenmittel gegen alles
ausknobeln kann, was der Mensch sich so zum Zwecke der
Selbstzerstörung ausdenkt.
Mit anderen Worten: Niemand möchte natürlich ein
"Terminator-Szenario", viele hoffen aber durchaus auf ein
"Culture-Szenario" (bezogen auf die Romane von Ian Banks).
Das ist aber nur möglich, wenn man schon im Vorfeld die Gefahren
genau durchleuchtet und überlegt, wie man dafür sorgt, das eine KI
eben "friendly" wird. Das dem Zufall zu überlassen scheint ja auch
recht waghalsig.
> Ich glaube aber, es gibt hier ein grundlegendes Mißverständnis. Ich
> glaube, keiner in diesem Thread will, dass die Computer (frei nach
> Moravec) "die Macht übernehmen".
Es ist so, das das durchaus einige wollen. Weil sie glauben, das die
Menscheheit sich ansonsten selbst auslöschen wird, da diverse
kommende Technologien ein Gefährdungspotential haben, welches das
z.B. von Atomwaffen bei weitem übersteigt.
Wenn irgendwann mal jeder in der Lage ist, mal eben im Keller ein
"Doomsday-device" zu basteln, dann wird es halt schwer zu verhindern,
das das nicht auch tatsächlich mal jemand tut und (absichtlich oder
unabsichtlich) einsetzt.
Als Resultat hoffen manche Leute daher, rechtzeitig eine "friendly
AI" zu bekommen, welche dann als "wohlmeinender Diktator" die
Menschheit vor sich selbst schützen wird, und aufgrund ihrer
überlegenen Intelligenz einfach ruck-zuck ein Gegenmittel gegen alles
ausknobeln kann, was der Mensch sich so zum Zwecke der
Selbstzerstörung ausdenkt.
Mit anderen Worten: Niemand möchte natürlich ein
"Terminator-Szenario", viele hoffen aber durchaus auf ein
"Culture-Szenario" (bezogen auf die Romane von Ian Banks).
Das ist aber nur möglich, wenn man schon im Vorfeld die Gefahren
genau durchleuchtet und überlegt, wie man dafür sorgt, das eine KI
eben "friendly" wird. Das dem Zufall zu überlassen scheint ja auch
recht waghalsig.