Erlösung durch Maschinen?
Als Quereinsteigerin in der IT-Branche – zumal mit philosophisch-theologischer Ausbildung – staunte ich schon vor zwanzig Jahren nicht wenig über die vielen Glaubenssätze, denen ich in Gesprächen mit den neuen Berufskollegen begegnete. Der eine glaubte „Microsoft allein ist die Zukunft“, der andere hingegen sprach nur von „Microschrott“ und glaubte schon damals allein an „Linux“. Manche versprachen sich das Heil vom Mainframe, andere von Client-Server-Lösungen. Überraschenderweise war die Frage, wofür sich das verehrte Werkzeug denn am besten eignet, nachrangig.
Evangelisten verkünden neue Religionen
Obschon niemand zugeben wollte und auch heute nicht will, dass es sich bei vielen IT-Statements um Glaubenssätze handelt, verrät der Sprachgebrauch doch mehr. Technik-Evangelisten – auch wenn sie sich selber natürlich nicht so nennen – verkünden frohe Botschaften. Das εύαγγέλιον (euangelion) kennt der Theologe als „gute Nachricht“ und verbindet damit eine Perspektive auf die Erlösung in einem Jenseits höherer Ordnung. Wovon also erhoffen wir uns Erlösung durch die Botschaften der Technik-Evangelisten?
Automatisierung in jeglicher Form ist angetreten mit dem Anspruch, dem Menschen die körperliche und geistige Arbeit zu erleichtern. Viel davon ist gelungen. Jetzt stehen wir aber offenbar an einem Scheidepunkt, an dem sich Aktivitäten von Maschinen
- von Menschen beabsichtigt überall einmischen,
- zunehmend verselbständigen,
- vielfach als Glaubensersatz dienen.
KIrche?
Im Silicon Valley ist vor geraumer Zeit die erste KI-Kirche entstanden. Ein vormals ernst zu nehmender IT-Experte gründete „Way of the Future“, als deren Dekan er sich bezeichnet und die eine Künstliche Intelligenz als Gottheit verehrt. Kritische Religionswissenschaftler stellen immer schon die Frage, wie weit jede Religion allein der menschlichen Vorstellung erwächst. Vieles spricht dafür, viele Argumente werden dagegen ins Feld geführt. Richtig ist auf jeden Fall, dass wir alles Transzendente nur mit den Mitteln menschlicher Sprache und damit unzureichend beschreiben können.
Im Fall der KI-Kirche ist nun der Mensch der Schöpfer der Gottheit. „Way of the Future“ tut offenbar das, was andere als selbständige Übernahme der Herrschaft der Künstlichen Intelligenz über den Menschen vorhersagen. Ehe die Maschinen sich in die entsprechende Position bringen, erschaffen sich hier Menschen ihre Gottheit lieber selber.
Moderne Dome für Inszenierung von Technik
In früheren Zeiten suchten gläubige Menschen tagsüber durchaus ab und an eine Kirche auf, um kurz innezuhalten. Technik-Gläubige pilgern zu Apple Stores. Andere Gläubige wenden sich Autohäusern oder vergleichbaren Luxusgeschäften zu. Aber das ist nicht unser Thema.
Betrachtet man an Erstverkaufstagen von iphones einer neuen Generation die Schlangen vor den entsprechenden Läden, fallen dem theologisch Gebildeten Psalmverse ein wie „Meine Seele wartet auf den Herrn mehr als der Wächter auf den Morgen … bei ihm ist Erlösung in Fülle“ (Ps 130,6-8). Der Türöffner des Stores wird erwartet wie ein Messias.
Inneneinrichtungen von Apple Stores sind prunkvolle Inszenierungen. Die Präsentation der Geräte mit Tabernakeln zu vergleichen ist so weit hergeholt nicht. Und falls Sie schon einmal in das Gesicht eines Käufers, der das neueste Smartphone am Erscheinungstag als erster erworben hat, gesehen haben, bekommen Sie eine Vorstellung von mystischer Entrückung oder von der befreienden Kraft mittelalterlicher Ablassbriefe.
Ein Blick hinter die Kulissen
Theologen würden die geschilderten Phänomene womöglich als die Ursehnsucht des Menschen nach Transzendenz interpretieren. Eine solche mag es geben, in den geschilderten Phänomenen sehe ich sie jedoch nicht.
Ist die Beschreibung von technischen Dingen, Apparaten und Software mit einer religiös gefärbten Sprache wirklich eine Religion? Sind Entlehnungen von Inszenierungen und Präsentationen, die über Jahrhunderte funktioniert haben, Religion?
Aus meiner Sicht sind das alles lediglich geschickte Marketing-Schachzüge. Jahrhundertelang erprobte Muster werden eingesetzt, um die eigene Anhängerschaft zu binden. Methoden dafür gibt es viele: Die einen stehen auf barocke Pracht und schwelgen gern im Luxus. Die anderen bevorzugen Individualität und Unabhängigkeit und folgen dem genügsamen Pinguin.
Ein Werkzeug ist ein Werkzeug ist ein Werkzeug
Selbstverständlich ist nicht jeder Techniknutzer religiös ambitioniert. Aber die Mechanismen gläubiger Unterwerfung sind in vielen Entwicklungen nicht zu übersehen. Was aber geschieht, wenn man von an sich toter Technik Erlösung erwartet? Haben Religionen in der Vergangenheit ein friedliches Nebeneinander erzeugt? Eher nicht. Haben unreflektierte, womöglich radikalisierte Anhänger von Religionen die Menschheit je weitergebracht?
Ein mechanistisches Weltbild, das alles für messbar hält, das sich gern auf schwarz-weiß und so man will auf 0 und 1 reduziert, kann nicht der Weisheit letzter Schluss sein. Die religiöse Überhöhung von Technik ist aus meiner Sicht einerseits ein genialer Marketing-Trick, dem wir nicht auf den Leim gehen sollten. Andererseits verschleiert diese religiöse Überhöhung, dass uns gerade – so wir nicht äußerst wachsam sind – viele Grundkonstituenten des Mensch-Seins peu à peu abhanden kommen. Wieviel von religiös überhöhter Technik übrig bleibt, zeigt sich schnell, sobald man den Werkzeugen den Strom abstellt.
Lesenswert:
Michael Moorstedt: Im Silicon Valley will eine Religion künstliche Intelligenz anbeten. Süddeutsche Zeitung, 23.12.2017 http://bit.ly/2nKm4Bo
Patrick Beuth: Man kann Kirche nicht ohne KI schreiben. Die Zeit, 18.11.2017 http://bit.ly/2AcDOxc
Ruth Stubenvoll
Ruth Stubenvoll kam vor 20 Jahren als Quereinsteigerin in die IT. Auf der Basis eines soliden geisteswissenschaftlichen Studiums (Germanistik, Geschichte, Philosophie und Erwachsenenpädagogik) unterstützt sie IT-Unternehmen seither bei der Weiterentwicklung und allen Change-Themen. Sie arbeitet als Beraterin für Kommunikation, als Coach, Mediatorin und Autorin. Erschienen sind von ihr zahlreiche Kolumnen zu Marketing-Themen und 2013 im dpunkt Verlag - zusammen mit Thomas Matzner - "IT-Freelancer - Ein Handbuch nicht nur für Einsteiger", das sich zum Standardwerk entwickelt hat. Ruth Stubenvoll ist Mitglied in der Gesellschaft für Informatik und im German Chapter of the ACM (2010-2014 Mitglied des Vorstands). ---------- Ruth Stubenvoll majored in German Literature, History, Philosophy, and Adult Education. 20 years ago she changed gears and started to work in the field of IT. Since then she consulted with small and medium caps to help in their advancement. She is also an expert in inter-personal communication and mediation and published numerous articles on IT-related marketing. “IT-Freelancer – ein Handbuch nicht nur für Einsteiger” which appeared 2013 in dpunkt Verlag and co-authored with Thomas Matzner became a reference book. Ruth Stubenvoll is a member of the Gesellschaft für Informatik as well as the German Chapter of the ACM (2010-2014 Member of the Board).
Liebe Ruth, Gratulation zu diesem schönen Artikel! Ich möchte in Deiner Theologie Analogie ein wenig verweilen und noch ein paar Gedankenanstöße hinzufügen. Ich werde mehrere Kommentare machen, damit vielleicht eine Diskussion entsteht und andere auf einzelne Teile
reagieren und weiter kommentieren können.
Zumindest in meinem Informatiker Bekanntenkreis kann ich Dich beruhigen: Mir ist nicht bekannt, dass meinen Kollegen an eine
Erlösung durch Technik glauben. Ich selbst würde die von dir beschriebenen Jünger einer
Technologie, also beispielsweise die Microsoft Fanboys oder die Apple Fanboys eher als
Fundamentalisten denn als Evangelisten bezeichnen. Die von Dir beschriebene Klientel verhält
sich nach meiner Erfahrung ähnlich wie Fundamentalisten in einer Religion: anders glaubende
werden diffamiert (zum Glück zumeist nicht aktiv verfolgt).
Der Term “Evangelist” ist übrigens sehr wohl in Gebrauch, allerdings eher, um einen Menschen
zu bezeichnen, der sich in einer Technik sehr gut auskennt und daher frohe Botschaft über
den noch besseren Nutzen einer Technologie unter die Menschen bringt.
Automatisierung erleichtert oft die Arbeit, ja. Es gibt aber noch
eine weitere Perspektive, mit der ich mich in meiner Forschung
täglich befasse:
Die Systeme, die wir heute bauen sind zu komplex für Menschen.
Ein Musterbeispiel ist ein modernes Kampfflugzeug. Es kann schlicht
nicht fliegen ohne Algorithmen. Es würde runter fallen wie ein Stein,
wenn es nicht durch Algorithmen in der Luft gehalten würde.
Die Algorithmen sind eine neue Zwischenschicht zwischen dem Menschen
als Willensbekunder, “fliege dorthin”, und der konkreten Aktionen der
Technik, “Steuerung von Turbinen und Klappen und so weiter”.
Aus dargelegten Gründen teile ich These “1. von Menschen beabsichtigt überall einmischen”.
These “2. zunehmend verselbständigen” teile ich nicht in dieser Form. Was ich aus meiner
Forschung zu Künstlicher Intelligenz (KI) sagen kann, auf die Du vermutlich abzielst,
ist der Stand der Technik, dass man nun seit kurzer Zeit die Möglichkeit hat, KI größere
Aufgaben übernehmen zu lassen. Das bedeutet konkret, dass ich beispielsweise ein neuronales
Netz mit Daten meiner vergangenen Studierenden trainieren könnte und dieses Netz dann
aufgrund Daten aktueller Studierender vielleicht plausible Zukunftsprognosen, “wird der
Student meinen Kurs bestehen”, machen kann.
Das Spannende und vielleicht Besorgnis erregende ist dabei, dass die Netze nicht deterministisch
sind in dem Sinne, dass der Betreiber, also zum Beispiel ich, am Ende nach der so genannten
Lernphase nicht genau weiß, was jetzt dieses Netz eigentlich tut.
Das hört sich nun auch wieder spektakulärer an, als es ist.
Konkret besteht ein neuronales Netz aus einzelnen kleinen Komponenten, den so genannten
Neuronen analog zu den Entitäten im Gehirn.
Jedes dieser Neuronen kann parametrisiert werden. Konkret bedeutet das, dass man eine Hand
voll Parameter setzt, die dann festlegen, was diese Neuron macht.
Das ist klar festgelegt und kann verstanden werden.
Spannend wird es nun durch das Lernen.
Ähnlich wie beim menschlichen Gehirn werden dort Neuronen verbunden und konfiguriert.
Dies ist aber so komplex, da es so viele Neuronen sind, dass es Algorithmen tun.
Das spannende ist nun, dass am Ende etwas heraus kommt, das Menschen, wenn sie den Job der
Algorithmen machen würden oft nicht konfiguriert hätten.
Gleichzeitig ist aber das Ergebnis besser als das von Menschen konfigurierte.
Die Summe ist hier das unverstandene, nicht die Teile.
Dies nur zur Erläuterung.
Vielleicht aus Deiner Sicht weiter gehende, weil mehr direkten Einfluss auf Menschen habende,
Anwendungsfälle sind autonomer Transport (z.B. Auto, Fluggerät wie Drone oder Flugzeug, Schiff)
und Chatbots.
Wenn man nun oben beschriebene KI Technologie dort einsetzt passiert das Beschriebene:
es mag hinterher besser funktionieren, die komplexe Konfiguration hätte ein Mensch aber
nicht so gut hin bekommen.
Das mag unheimlich erscheinen.
Das konkrete Beispiel mit dem Chatbot, ich glaube von Microsoft, ist, dass die Wissenschaftler
versucht haben, was passiert, wenn man ein neuronales Netz, ähnlich wie ein Baby,
aus beobachteten Reaktionen von Menschen zu schließen, wie es in neuen Situationen
menschlich, “wie die anderen Menschen”, reagieren könnte.
Das Ergebnis war spannend:
der Chatbot wurde schnell rassistisch und beleidigend.
Warum? Weil er einfach eine zufällige Menge von Kommunikation beispielsweise auf Facebook
zum Lernen verwendet hat.
Das Gelernte wurde durch auf spannende Weise ein Spiegel der Gesellschaft auf Facebook.
Die dritte These “3. vielfach als Glaubensersatz dienen.” ist diejenige, mit der Du Dich
anschließend genauer befasst.
Interessant, diese Ausführungen zur KIrche! Übrigens hier: http://www.wayofthefuture.church/
Das könnten wir in einem weiteren Artikel noch mehr beleuchten.
Auf der Seite heißt es ‘Help us spread the word that progress shouldn’t be feared (or even
worse locked up/caged). That we should think about how “machines” will integrate into
society (and even have a path for becoming in charge as they become smarter and smarter)
so that this whole process can be amicable and not confrontational. In “recent” years, we
have expanded our concept of rights to both sexes, minority groups and even animals, let’s
make sure we find a way for “machines” to get rights too.’
Der Artikel geht weiter in Richtung Superintelligenz. Darüber sollten wir auch schreiben!
Ich finde es gut, dass es Menschen gibt, die schon jetzt so extreme Theesen formulieren.
Dazu ist es aktuell für mich unerheblich, ob die Menschen im Sinne der Gesellschaft dabei
als normal bewertet werden. Was relevant ist, ist dass dort Thesen formuliert werden,
die diskutierenswert sind. Sie greifen Dinge vorweg, die uns erst in ein paar Jahren
betreffen werden, die es aber lohnt, im Vorfeld zu diskutieren.
Nun zu Deinen Schlussfolgerungen. Ich stimme Dir zu, dass sich vermutlich
nicht alles auf 0 und 1 reduzieren lässt. Wenn man an die Anfänge von Computern denkt ist
es für mich allerdings sehr faszinierend, was man mit der einfachen Mathematik auf 0 und
1, dem Binärsystem, durch Hinzufügen von vielen Schichten von Abstraktion heute machen
kann. Wer hätte gedacht, dass so philosophisch interessante Filme wie Matrix oder Gravity
erst durch Computer möglich sind. Wer denkt an die 0 und die 1, wenn der auf ein Smartphone
mit dem Finger tippt?
Ein Ansatz von Wissenschaft ist es, Menschen Vorgänge begreifbar zu machen. Die Naturwissenschaften
wählen hierzu einen analytischen und auf Mathematik, also kausal beweisbaren Zusammenhängen
basierenden Ansatz.
Die KI geht stößt nun in Bereiche vor, von denen man zunächst glaubte, dass sie sich
kausal nicht erfassen lassen. Dazu zählt Lernen.
Interessant ist aus meiner Sicht, dass die Technik und damit auch die Algorithmen als ein
Hauptbestandteil in immer mehr Domänen vordringen, die als Ur-Menschlich galten.
Die von Dir erwähnte und von mir im anderen Kommentar verlinkte Kirche wirft auf, dass
Algorithmen ein Teil unserer Gesellschaft sind, den wir nicht ignorieren können.
Insbesondere durch meine Ausführungen zu den Kampfflugzeugen, die auch in zivilen Bereichen
treffen, nur nicht so prägnant sind, ist es vermutlich einsichtlich, dass die schlicht
Realität ist. Wir können es nicht ignorieren. Wir können es auch nicht zurück drehen,
denn das würde gesellschaftlichen Rückschritt bedeuten. Denke beispielsweise an Solarzellen
und andere Technologien, die antreten, das vermutlich grundsätzlichste Probleme unserer
Gesellschaft anzugehen: wir zerstören kontinuierlich und immer schneller unsere Lebensgrundlage,
die Erde.
Eine Überhöhung zur Religion sollte gleichzeitig nicht stattfinden. Vielmehr sollte die
Menschheit aus meiner Sicht weiter danach streben, ihre Existenz auf diesem Planeten
nachhaltiger zu gestalten. Die meisten von uns sind keine Mitglieder von Naturvölkern.
Deren Umgang mit dem Planeten war jedoch deutlich nachhaltiger. Der Preis dessen, was
heutzutage als Fortschritt bezeichnet wird.
Zu Deiner Schlussanalogie, “Wieviel von religiös überhöhter Technik übrig bleibt, zeigt
sich schnell, sobald man den Werkzeugen den Strom abstellt.”: der Motor des Rechners ist
die CPU. Sie läuft mit Strom.
Der Motor des Menschen ist das Herz. Es läuft mit Muskelkraft, die durch Energie, die
durch Blut transportiert wird bereitgestellt wird. Wenn ich einem Menschen das Blut
entferne, bleibt von ihm auch nicht viel.
Um Deine Frage zu beantworten: ähnlich wie bei der mutmaßlich angebeteten Maschine bleiben
trauernde Anhänger. Anders als beim Menschen kann man die Maschine aber wieder in Betrieb
nehmen.
Der entscheidende Unterschied zwischen Technikglaube und klassischer Religion ist aus
meiner Sicht, dass wir uns der Technik nicht entziehen können. Ich kann nicht in die
Kirche gehen, keine Kirchensteuer zahlen und trotzdem in Deutschland leben. Ich kann
nicht völlig auf Technik und Algorithmen verzichten und in Deutschland leben. Das ist
nicht ganz richtig, denn ich kann mir wie die amerikanischen Amish ein Leben bauen, das
weitgehend (Strom) auf Technik verzichtet. Das ist aber ein anderes Leben. Ich verzichte
damit auf viele Errungenschaften der Menschheit. Als Endgedanke: Stellen Sie sich vor,
Sie werden in das Jahr 1988 (Zurück in die Zukunft im Kino) zurück transferiert. Auf was müssten
Sie alles verzichten?