Seit mehr als drei Jahrzehnten arbeitet Edward A. Lee als renommierter Computerwissenschafter an der Berkeley University in Kalifornien. Vor zwei Jahren hat er sich mit einem ersten Buch unter dem Titel Plato and the Nerd über den Tellerrand seines Faches hinausbewegt und sich mit den sozialen und kulturellen Aspekten digitaler Technologien beschäftigt. Sein neues Buch The Coevolution: The Entwined Futures of Humans and Machines, das 2020 bei der MIT Press erscheint, stellte Lee kürzlich in einer Vorlesungsreihe zu digitalem Humanismus an der Fakultät für Informatik der TU Wien vor.

STANDARD: In Ihrem neuen Buch verwenden Sie viele biologische Metaphern. So sprechen Sie von Computern und digitalen Technologien, als ob sie Lebewesen wären. Warum?

Lee: Digitale Technologien verhalten sich in einigen Hinsichten wie Lebewesen: Sie reagieren auf Stimuli aus ihrer Umwelt, sie wachsen und lernen, sie interagieren mit uns. Ob sie wirklich Lebewesen sind, ist letztlich eine Definitionsfrage und wird sich nicht abschließend beantworten lassen. Sie wie lebendige Organismen zu betrachten hilft aber, unsere Beziehung zu diesen Technologien besser zu verstehen.

"Menschen und Maschinen entwickeln sich gemeinsam im Sinne einer Koevolution, so wie sich auch Menschen und ihre Darmbakterien gemeinsam entwickelt haben", sagt Lee.
Foto: Getty Images / iStockphoto

STANDARD: Inwiefern?

Lee: Unser Verhältnis zu digitalen Technologien sehe ich in etwa so wie unser Verhältnis zu unseren Darmbakterien. Sie sind nicht nur für unsere Verdauung unerlässlich, sondern beeinflussen auch unser Verhalten. So können sie die Ausschüttung bestimmter Hormone verursachen, die uns Lust auf bestimmte Nahrungsmittel machen. Ähnliches tut auch unser Smartphone – es ist zum unerlässlichen Begleiter im Alltag geworden, weckt in uns aber auch das Verlangen, mehr mit ihm zu interagieren. Die Analogie ist nicht so weit hergeholt, wie sie scheinen mag, können Smartphones doch die Ausschüttung bestimmter Stoffe im Gehirn provozieren. An meinen Kindern kann ich gut beobachten, wie stark Smartphones ihre Aufmerksamkeit absorbieren. Auf ihr Piepsen reagieren sie so aufmerksam wie einst die Menschen auf ein Rascheln in den Büschen hinter uns. Diese Technologien machen sich Gehirnfunktionen zunutze, die sich entwickelt haben, um uns vor Feinden zu schützen.

STANDARD: Wie ist die Beziehung von Mensch und Maschine zu fassen?

Lee: Ich würde sie als eine sehr enge und symbiotische beschreiben. Digitale Technologien sind längst nicht mehr nur eine Gedächtnisstütze, sondern werden zu einem Teil unseres kognitiven Selbst. So wie wir ohne Darmbakterien nicht überleben würden, wären wir ohne unser Smartphone nicht mehr dieselben. Das gilt auch für die menschliche Spezies insgesamt: Ohne Computer könnten wir nicht sieben Milliarden Menschen ernähren. Würde man sie abschalten, wären die Folgen katastrophal. Menschen und Maschinen entwickeln sich insofern gemeinsam im Sinne einer Koevolution, so wie sich auch Menschen und ihre Darmbakterien gemeinsam entwickelt haben: Wir entwickeln Technologien, die uns verändern, und dies wiederum führt in einer Feedbackschleife zu neuen Technologien. Auch insofern ähneln die Technologien Lebewesen: Sie entwickeln sich in einem koevolutionären Prozess.

STANDARD: Sind es nicht vielmehr Informatiker und Ingenieure, die neue Technologien entwickeln?

Lee: Tatsächlich glauben viele, neue Technologien entstünden in einem Top-down-Prozess, in dem sie aufgrund eines klugen Plans von smarten Entwicklern wie aus dem Nichts geschaffen werden. Meiner Erfahrung nach funktioniert das nicht so. Mehr als intelligentem Design ähnelt die Entwicklung neuer Technologien einem darwinistischen, evolutionären Prozess. Man beginnt immer schon in einer gegebenen Umwelt von Werkzeugen und Technologien. Wer etwa ein Programm schreibt, nutzt eine schon vorhandene Programmiersprache und wird viel bereits vorhandenen Code verwenden. Entwickler fangen nicht bei null an, sondern kreuzen bereits bestehende Technologien miteinander, um daraus durch Mutation neue entstehen zu lassen. Das meiste, was dabei entsteht, stirbt in einem Prozess von Selektion wieder aus, nur wenige Neuerungen überleben.

Eward A. Lee: "Computer sind Teil unseres Selbst."
Foto: Rusi Mschedlishvili

STANDARD: Wenn die technologische Entwicklung ein evolutionärer Prozess von Mutation und Selektion ist – können wir sie dann überhaupt steuern?

Lee: Als evolutionären Prozess kann man die technologische Entwicklung nicht völlig vorhersehen und kontrollieren. Das heißt aber nicht, dass wir sie nicht entscheidend beeinflussen können. Dazu allerdings müssen wir ihre evolutionäre Dynamik besser verstehen. Sosehr es eine natürliche Tendenz ist, für Fehlentwicklungen nach konkreten Schuldigen zu suchen, würde es nichts ändern, einfach nur die vermeintlich bösen Entwickler wegzusperren. Die Lösung des Problems ist nicht, dass wir alle Entwickler zu ethischem Verhalten bewegen. So haben in der Vergangenheit gutgemeinte Gesetze oft nicht die erhofften Wirkungen gezeigt. Gesetze zum Schutz der Privatsphäre in den USA haben etwa hauptsächlich dazu geführt, dass wir häufiger lange AGBs bestätigen, die niemand liest – die Technologien haben sich mit geringen Mutationen den neuen Regeln angepasst. Unsere Politik könnte sich verbessern, wenn wir solche Mutationsprozesse besser verstehen und vorhersehen.

STANDARD: Politik sollte also eher das Ökosystem, die Umweltparameter gestalten, innerhalb deren sich Technologieentwicklung abspielt?

Lee: Ja, absolut. Es gibt Beispiele dafür, dass unterschiedliche politische Systeme je eigene Ökosysteme schaffen, die spezifische technologische Entwicklungen nach sich ziehen. Denken Sie etwa an China. Dort werden Informationen zentral kontrolliert, Redefreiheit und der Schutz der Privatsphäre sind nicht gegeben. Entsprechend scheinen sich dort die Technologien für einen Orwell’schen Überwachungsstaat herauszubilden. Dazu ist es ohne die zentrale Steuerung von Ökonomie und technischer Entwicklung gekommen, wie man sie noch aus der Sowjetunion kannte – in China funktioniert es gerade nicht so zentralisiert und top-down, sondern es wurde eine Umwelt geschaffen, in der zum Beispiel die Entwicklung von künstlicher Intelligenz zu Überwachungszwecken gedeiht.

STANDARD: Sie sind einer der Unterstützer des "Wiener Manifests für digitalen Humanismus", das im Mai 2019 an der TU Wien lanciert wurde. Was verstehen Sie unter "digitalem Humanismus", und warum halten Sie das Thema für so wichtig?

Lee: Dieses Thema wird maßgeblich von Hannes Werthner vorangetrieben, bis 2019 Dekan der Fakultät für Informatik hier an der TU Wien. Aus meiner Perspektive bedeutet digitaler Humanismus vor allem, technologische Innovation nicht mehr nur als Selbstzweck anzusehen. Ich sehe im digitalen Humanismus einen Weckruf für uns Informatiker und Ingenieure, nicht mehr nur darauf zu sehen, was technisch noch alles möglich sein könnte, sondern bei Entdeckung und Innovation stärker den Menschen in den Mittelpunkt zu stellen.

STANDARD: Wie kann das gelingen?

Lee: Als wir im April während eines Workshops hier über das Manifest gesprochen haben, sagte mein niederländischer Kollege Hans Akkermans treffend, die Informatik müsse heute erwachsen werden, so wie es die Physik Mitte des 20. Jahrhunderts werden musste. Mit Entwicklung der Atombombe hatte sie damals unvorstellbare destruktive Fähigkeiten erlangt. Heute scheint die Computerwissenschaft in einer nicht unähnlichen Lage: Digitale Technologien können Demokratien zerstören, sie können zu Orwell’schen Überwachungsstaaten führen, sie verändern massiv unsere Gesellschaft und Kultur. Fragen über ihre sozialen und kulturellen Folgen müssen wir als Informatiker und Ingenieure noch viel ernster nehmen, statt uns nur technischen Problemen zuzuwenden. (Miguel de la Riva, 10.2.2020)