Golem – der digitale Wächter
Mythos und Technologie
- Warum erfinden Menschen menschenähnliche Wesen?
- Welche Art von Intelligenz haben diese Wesen?
- Wie üben die Erfinder Macht über ihre „Wesen“ und „Systeme“ aus?
- Welche Fehler liegen „im System“?
- Wer geht wie mit den Fehlern um?
Spannende Fragen, unser digitales System und die Welt der Roboter betreffend.
Als ich neulich eine Nachricht von golem.de bekam, die IT-News für Profis veröffentlichen, dachte ich: Aha, hier vermischen sich alte Mythen und neueste Technologie.
Für Golem habe ich mich schon seit längerem interessiert. Welche Motive haben Menschen, künstlich Menschen und menschenähnliche Systeme zu erschaffen? Und welche Folgen haben diese Erfindungen für die Menschheit?
Golem ist ein Mythos von Macht, Überwachung und Kontrolle – und auch von Begrenztheit.
Golem ist kein Mensch, sondern ein von Menschen geschaffenes, menschenähnliches Wesen.
Was es damit auf sich hat, habe ich einst in einer philosophisch-akustischen Performance zu Anhörung mit verteilten Rollen gebracht. Es geschah an einem ungewöhnlichen Ort: In einem alten, großen, leeren Wasserspeicher in Berlin, in dem das Festival der „Kryptonale“ stattfand. Kryptisch steht für: geheimnisvoll, undurchdringlich. Kryptisch war dieser Speicher: halb unter der Erde, sakral anmutend, verschlungene Gänge, feucht und hallig. Ohne Wasser kein Leben?
Passend für das Erzählen einer unheimlichen Geschichte und eines alten Menschheitsthemas.
In Prag, vor vielen Jahrhunderten, lebte einst der Rabbi Löw. Er galt als weiser Mann und stand nicht nur deshalb der wohlhabenden jüdischen Gemeinde vor. Immer wenn ein Problem zu lösen war, wurde er zu Rate gezogen.
Nun wiederholte es sich, dass in das jüdische Viertel nachts eingebrochen wurde. So wurde der Rabbi gefragt, was zu tun wäre. Er dachte nach und wusste einen Weg. Allein und unbeobachtet ging er an die Moldau und formte aus Lehm eine sehr große Menschengestalt. Aber sie bewegt sich nicht, sie war ja nur aus Lehm. Der Rabbi Löw aber, der die universellen Gesetze und deren Wirkung kannte, wusste er, wie in der Materie Leben entstehen kann. So gelang ihm etwas, was sonst kein anderer konnte: Mit einer Kombination aus Buchstaben und Zahlen gab er dieser großen Menschengestalt Atem – und damit Leben ein.
Das Geschöpf, das er geschaffen hatte, nannte er: GOLEM. Es war klar, was Golem zu tun hatte, nämlich jede Nacht vor dem Tor des Viertels zu stehen und genau aufzupassen.
Der Rabbi erteilte ihm also diesen Auftrag und Golem tat widerspruchslos, was ihm geheißen wurde.
Doch es reichte nicht, dass der Rabbi nur einmal Golem diese Aufgabe vermittelte. Er musste es jeden Abend immer wieder von neuem tun. Warum? Golem war zwar sehr stark und hatte übernatürliche Kräfte, aber er war „dumm“. Er konnte nur so funktionieren, wie es ihm der Rabbi auftrug.
Eines Abends aber vergaß der Rabbi, Golem zu sagen, was er zu tun hatte – mit schwerwiegenden Folgen. Mitten in der Nacht nämlich schreckte der Rabbi auf: Furchtbarer Lärm!
Der Golem hatte begonnen, alles in seiner Reichweite zu zerstören. Er schlug wie besessen um sich und hat schon ein Teil des Viertels in Trümmer gelegt.
Der Rabbi eilte, so schnell er konnte, zu Golem. Er befahl ihm, sofort mit der Zerstörung aufzuhören. Aber Golem achtete nicht mehr auf ihn. Es war zu spät.
Rabbi Löw blieb nichts weiter übrig, aus Golem die Buchstaben und Zahlen-Kombination herausziehen. Golem fiel in sich zusammen, sank zu Boden und atmete nicht mehr. Das war sein Ende.
War der Rabbi etwa selbst nicht klug genug? Hätte er mit seinem Wissen Golem nicht mehr einhauchen können als nur Kraft und Blödheit? Hatte er nicht voraussehen können, dass ein so begrenztes Wesen wie Golem dieser Aufgabe gar nicht gewachsen war? Hätte er nicht Golem beibringen können, mehr zu kapieren?
Und warum hat Gott wiederum dem Rabbi nicht mehr Weisheit „implantiert“? Denn dann hätte Rabbi Löw möglicherweise nicht Geschöpfe geschaffen, die dümmer als er selber sind.
Offensichtlich stehen Schöpfer und Erfinder immer wieder vor der gleichen Schwierigkeit. Sie kreieren etwas, was Mängel aufweist und Probleme macht. Der ehrgeizige Erfinder Victor Frankenstein schuf aus Maschinenteilen, menschlichen Knochen und Sehnen einen künstlichen Menschen. Als dieses namenlose Wesen anfing, durch Stromstöße zu „leben“, bekam der Erfinder einen solchen Schreck, dass er weglief und das Geschöpf sich selbst überließ. Da dieses Geschöpf nicht einmal einen Namen bekam, nicht geliebt wurde, und ihm nichts beigebracht wurde, wurde es zu einem unglücklichen Monster, was dem eigenen Untergang entgegenlief.
Der Erfinder Wagner aus Goethes „Faust“ erzeugt im Reagenzglas den überaus cleveren Homunculus. Doch ehe Wagner sich versieht, haut – salopp gesprochen – diese Kunstfigur ab und ward nie wieder gesehen. Wie ärgerlich für seinen Schöpfer!
Irgendwie scheinen sich diese menschenähnlichen „Wesen“ irgendwann zu verselbständigen und ihr Eigenleben zu führen. Und leider sind sie meist ebenso begrenzt wie ihre Schöpfer: Sie wissen nicht genau, wer sie sind und was sie tun. Sie nehmen die Folgen ihres Handelns nicht vorweg, weil sie nicht konsequent und tief genug denken.
Schade, dass wir den Rabbi nicht fragen können, was ihm gefehlt haben könnte, um ein wirklich intelligentes und liebesfähiges Wesen zu schaffen, und nicht nur eines, das stark, mächtig und sehr begrenzt ist.
Diese Geschichten liefern sind nun per se keine Argumente gegen technischen und wissenschaftlichen Fortschritt. Es sind Geschichten, an denen ein Urproblem sichtbar wird.
Jedes System ist so intelligent wie sein Erfinder.
Und da jeder Erfinder ein Mensch ist, liegt auch in ihm eine Begrenzung. Die Hybris der Hybris heute lautet: Die technologischen System, die Roboter und Algorithmen wären über diesen Einwand erhaben. Sie könnten noch schlauer sein als irgendein Mensch. Der Mensch, so die implizite Logik, könne etwas schaffen, was klüger wäre als er selbst.
Diese Logik aber scheint mir aus zwei Gründen widersinnig. 1. In jede Erfindung geht die Begrenztheit des Menschen ein. 2. Das System kann nicht zu sich selbst in Abstand gehen.
Das Paradoxe dabei ist. Ein Mensch hingegen – in all seinen Begrenzungen – kann das. Er kann Subjekt und Objekt in einem sein. Er hat ein Bewusstsein und kann sich selbst und sein Werk nach Maßstäben betrachten, die nicht im System liegen, das kein Bewusstsein hat. Weil „das System“ eben kein Mensch ist. Das wäre so, als würde sich eine Formel selbst ansehen und entscheiden, ob sie falsch oder richtig ist. Ein Roboter oder ein Algorithmus kann dies, abgesehen von implantierten Selbstkorrekturen, auch nicht, soweit ich weiß. Die Evidenz eines Fehlers tritt zwar schnell zutage, erzeugt aber nicht in toto die Behebung desselben.
Auf ein Fazit verzichte ich hier. Das kann sich jeder selbst denken.