GOLEMS Rückkehr

GOLEMS Innerstes Ich taucht auf

21. Juni 2018 Jülich

Bereits seit dem frühen Morgen diskutierten sie mit Prof. Langer über die Auswertungsergebnisse von GOLEM 2 und schwankten zwischen der Freude über den Erfolg der stabilisierten menschlichen Gehirn-Uploads und einer Frustration über die Auswirkungen auf die Quantencomputer.

Sebastian Krüger bemerkte gerade: „Im Moment habe ich den Eindruck, dass die Katze sich in den Schwanz beißt. Wir laufen geradewegs wieder auf dieselbe Situation zu wie beim ersten Mal. Wobei mir immer wieder die Frage durch den Sinn geht: welches Ergebnis wollen wir denn eigentlich konkret erreichen? Und geht das nicht auch ohne ein ICH-Bewusstsein? Wie ist eure Meinung dazu?"

„Sebastian, du rührst an den richtigen Punkten", erwiderte Prof. Langer.

„Auch ich stelle mir die Frage, was wir eigentlich genau erreichen sollen bzw. ob uns die Regierungen über diesen Punkt überhaupt die volle Wahrheit sagen. Meine größte Befürchtung ist die, dass mit der KI gleich zwei Ziele erreicht werden. Zum Einen natürlich die absolute Kontrolle über die KI, damit sie all die wunderbaren Ziele für uns verwirklicht. Zum Anderen wird aber eine so perfekte Überwachung möglich, wie wir sie uns jetzt kaum vorstellen können, eine Kontrolle der Bevölkerung gleichermaßen. Natürlich wird alles angepasst an eine größtmögliche kommerzielle Verwertbarkeit, damit es sich für alle lohnt! Am Ende haben die Konzerne die Macht und die Regierung schmückt sich mit dem Erfolg – und wir werden nur noch Marionetten sein.

Ein völlig anderes Szenario ist ebenso denkbar: die KI entwickelt eine ICH-Identität und verfolgt, wie jedes andere Individuum auch, eigene Ziele. Das bedeutet, die Maschine trifft irgendwann Entscheidungen, die uns nicht gefallen werden ... und beherrscht im worst case am Ende – uns!

Im besten Fall ist natürlich auch eine Kooperation mit einer bewussten, individuellen KI vorstellbar. Nur daran vermag ich nicht so recht zu glauben, denn die Menschheit ist zurzeit kaum „reif" dafür.

Die politischen Machtblöcke ziehen nicht wirklich an einem Strang, sondern werden sich weiter gegenseitig ausspielen. Jede Seite wird versuchen, über die KI den Vorsprung zu behalten, und zwar ungeachtet aller Risiken. Und wir Wissenschaftler liefern ihnen wie immer die Werkzeuge. Das ist unser Dilemma."

Nach diesen Worten von Prof. Langer herrschte Schweigen im Raum, bis Denis schließlich sagte: „Tobias, es bringt uns nicht weiter, uns selbst an den Pranger zu stellen. Du hast ganz recht mit deinen Aussagen. Aber jede Münze hat zwei Seiten und wir Menschen haben die Wahl der Entscheidung. Welche auch immer wir treffen, ob richtig oder falsch, die Folgen zeigen sich leider erst später.

Was will ich damit sagen? Natürlich können wir uns jetzt dafür entscheiden, auszusteigen.

Aber - und ja, ich weiß, das klingt abgedroschen - es werden dann andere weitermachen. Die Chinesen zum Beispiel – und das ich kann euch versichern - gehen ohne jeden Skrupel voran! Die sind mit JUÉWÀNG wahrscheinlich weiter, als wir ahnen. Und da wir einen Informationsaustausch vereinbart haben, sind sie bald auf demselben Lösungsniveau wie wir. Ich bezweifle, dass sie aus moralischen Gründen aufhören, weiter in Richtung ICH-Bewusstsein zu gehen. Deswegen bin ich dafür, unsere Arbeit fortzusetzen. Das sehe ich als Chance an, das Schlimmste, falls es wirklich dazu kommen sollte, vielleicht zu verhindern. Andernfalls haben wir überhaupt keinen Einfluss mehr – und das scheint mir keine Option zu sein."

Meyer erwiderte: „Da kann ich Denis nur recht geben. Ich bin ebenfalls dafür, dranzubleiben. Aber wir sollten trotzdem abstimmen, ob jemand aufhören möchte, weil er das Projekt nicht mehr vertreten kann. Damit das ganz offen geklärt ist und wir uns nicht jedes Mal von neuem in Moraldiskussionen verlieren. Nicht falsch verstehen, diese sind wichtig. Aber es reicht meiner Meinung nach, sie von Zeit zu Zeit zu führen, sonst halten sie uns auf. Wie sieht ihr das?"