Nicht immer braucht es Kameras für die Überwachung und Kontrolle. Mit der Digitalisierung werden immer mehr Daten zu uns Menschen gesammelt, sagt Hofstetter. Gefährdet das die Demokratie?
Unternehmen wie Netflix wissen, wie oft wir uns Liebes- oder Actionfilme ansehen, und schlagen uns zu unseren Interessen passende Titel vor. Die Auswertung unserer Daten im Netz kann aber auch illegal werden. Das hat etwa der Cambridge-Analytica-Skandal von 2018 in den USA gezeigt. Seither vergeht kaum ein Jahr, in dem nicht weitere Datenskandale ans Licht kommen.
Für die deutsche Juristin und Expertin für künstliche Intelligenz (KI), Yvonne Hofstetter, ist das keine Überraschung. Überall, wo Daten digital verarbeitet und vernetzt werden, gebe es auch Überwachung. Diese Überwachung, die von intelligenten Maschinen ausgehe, bezeichnet sie als "digitalen Imperialismus". Künftig werden diese Systeme immer mehr in der Politik, in Wahlkämpfen und zur Kontrolle der Menschen eingesetzt werden. Wir müssen uns dagegen wehren, sagt sie.
STANDARD: In den vergangenen Jahrzehnten haben die USA wesentlich mehr Geld in die Entwicklung künstlicher Intelligenz gesteckt als Europa. Hat die EU den Anschluss gegenüber anderen Weltmächten verloren?
Hofstetter: Viele Technologien, die wir heute im Alltag benutzen, sind ursprünglich einmal für das Militär entwickelt worden. Europa hat nach dem Fall der Berliner Mauer die Budgets für die Verteidigung viele Jahre lang zurückgeschraubt. Davon war auch die Technologieforschung betroffen. Das amerikanische Verteidigungsministerium hingegen arbeitet seit Jahrzehnten mit Start-ups zusammen und investiert Milliarden an Dollars, um neue Technologien zu erforschen. Zusätzlich unterscheiden sich Kapitalmarktstrukturen in den USA von den europäischen. Sie unterstützen Risikokapitalinvestitionen besser.
STANDARD: Wie steht Europa heute im Vergleich zu den USA und China da?
Hofstetter: Seit der Trump-Administration ist Europa aufgewacht und hat gemerkt, dass es auch bei digitalen Technologien unabhängiger werden muss. Wir sind in Europa gegenüber KI viel kritischer. Aber auch in den USA ist klar, dass KI in bestimmten Einsatzgebieten sehr gefährlich werden kann. China ist mittlerweile auf der Überholspur, was KI betrifft, führt aber kaum ethische Diskussionen zu der Technologie. Die Asiaten nutzen KI eher für die Überwachung, die politische Kontrolle und die nationale Sicherheit als für wirtschaftliche Wettbewerbsvorteile. Die Neue Seidenstraße muss abgesichert werden, dabei wird KI helfen. Deshalb rechne ich mit der Tendenz, dass KI auch in Europa immer mehr zur Überwachung und Kontrolle eingesetzt werden wird. Das ist ein Problem, das die Bürger sehr gern ausblenden.
STANDARD: Worin liegt genau das Problem bei der Überwachung?
Hofstetter: Überwachung ist der Digitalisierung immanent. Es gilt, alles mit allem zu vernetzen, um Messdaten zu erheben. Wie verhält sich ein Konsument, ein Wähler, eine Produktionsstraße, das Klima, ein Virus? Mit der Überwachung – der Datenerhebung und Analyse – kommt die größere Erkenntnis des Alltags und der Umwelt. Dann folgt der steuernde Eingriff durch den Menschen. Bei einer Industrieanlage sind Überwachung und Steuerung legitim. Beim Menschen ist das nicht der Fall. Menschen haben Rechte – Menschenrechte. Man kann Menschen nicht genauso wie Sachen behandeln. Aber genau das geschieht mit der Digitalisierung. Der Mensch wird auf einen steuerbaren Datenhaufen reduziert – das ist eine fundamentale Änderung des Menschenbilds, auf dem unsere Demokratien beruhen.
STANDARD: In der Politik und der Wissenschaft wird die Digitalisierung aber auch als Chance gesehen, etwa wenn es um E-Voting oder neue Bürgerbeteiligungen geht. Kann die Digitalisierung unsere Demokratien nicht auch stärken?
Hofstetter: E-Voting halte ich für ein Problem, vor allem wegen der Cybersicherheit. Denn alles, was Sie elektronisch machen, ist verwundbar. Sicherer ist, Sie gehen ins Wahlbüro und geben Ihr Kreuz analog ab. Es gibt Ansätze, die Digitalisierung für andere Formen der demokratischen Teilhabe zu nutzen, aber ich bin skeptisch. Theoretisch könnten wir schon jetzt aus vielen Online-Profilen die politische Orientierung einer Person berechnen. Warum muss diese Person dann noch wählen gehen? Ihre politische Orientierung und Einstellung könnte direkt an die Regierung übermittelt werden, die dann nur mehr ausführt, was die Mehrheiten möchten, ganz ohne Zwischenschaltung eines Parlaments. Mit politischer Willensbildung des Einzelnen hätte das nichts mehr zu tun. Denn digitale Profile von uns Menschen entstehen auch aus unserem unbewussten Verhalten. Aber ohne den souveränen politischen Willen des Menschen gibt es keine Demokratie.
STANDARD: Immer wieder stehen auch Online-Plattformen wie Facebook oder Twitter in der Kritik. Welche Macht haben die Konzerne über die Meinungsfreiheit?
Hofstetter: Online-Plattformen sind das Umfeld, in dem man die Wahrheit nicht mehr vom Märchen unterscheiden kann. Jeder ist Sender und Empfänger zugleich, und unterschiedslos alle können alles senden. So entsteht ein Meinungschaos. Um die Menschen möglichst lange auf den Plattformen zu halten, die nichts weiter als Werbetechnologien kommerzieller Organisationen sind, wird vor allem auf Emotion gesetzt, auch auf Angst oder Hass. Die sozialen Medien sind Affektmaschinen schlechthin und bewegen die Nutzer emotional. Sie sind der Nährboden, auf dem Bewegungen entstehen, von radikalen politischen Bewegungen bis hin zu Fridays for Future. Bewegungen wiederum bringen häufig Agitatoren hervor. Das hat man in den USA unter Trump gut gesehen, dem Big Tech eine Bühne bot, die Leute mit einfachen Antworten für sich zu begeistern. Die Regierungen haben es verabsäumt, diese Plattformen zu regulieren – auch weil sie vor der Wirtschaftsmacht dieser Unternehmen zurückschrecken.
STANDARD: Nach dem Sturm auf das US-Kapitol ließ Twitter den Account von Donald Trump sperren. War die Entscheidung gerechtfertigt?
Hofstetter: Es war opportunistisch von Twitter, Donald Trump erst ganz am Ende seiner Amtszeit zu sperren. Warum ist das nicht schon viel früher passiert? Es war doch nicht das erste Mal, dass er die Spielregeln der Plattformen nicht eingehalten hat. Dass Plattformen selbst darüber entscheiden, wem oder welchem Geschäftsmodell sie Zugang erlauben, liegt daran, dass die Regulierungsbehörden nicht früh genug eingegriffen haben. Oder anders gesagt: Was Gesetz ist, bestimmt inzwischen nicht mehr der Gesetzgeber, sondern Big Tech mit ihrer Marktmacht. Der Gesetzgeber hat sich in der Zwischenzeit viel Macht aus der Hand nehmen lassen.
STANDARD: Welche Formen der Regulierung schweben Ihnen vor?
Hofstetter: Online-Plattformen nennen sich selbst "Medien". Deshalb müsste man sie wie andere Medienunternehmen regulieren. Wir sollten sie für ihre Inhalte verantwortlich machen. Generell plädiere ich dafür, nicht die Technologie an sich zu regulieren, sondern zu überlegen, welche Szenarien wir in der Zukunft vermeiden wollen, die durch Technologie eintreten können. Man könnte etwa sagen, wir wollen nicht, dass Plattformnutzer auf ihre politische oder sexuelle Einstellung hin kategorisiert werden. Das lässt die Technologie unangetastet, verhindert aber, dass bestimmte Schadszenarien eintreten.
STANDARD: Was kann die Gesellschaft und jeder Einzelne dagegen tun?
Hofstetter: Es braucht den Willen, sich zu informieren und nicht einfach bequemer Konsument zu sein, zu dem uns die Kräfte der Digitalisierung erziehen. Jedem sollte klar sein, dass es nicht dasselbe ist, ob man auf die Straße geht, um zu demonstrieren, oder auf der Couch liegt und im Internet eine Online-Petition unterschreibt.
STANDARD: Sie selbst nutzen kein Smartphone und haben kein Facebook-Profil. Wie geht es Ihnen damit?
Hofstetter: Online-Plattformen sind Werbeplattformen, Smartphones Träger für Messgeräte. Ich habe entschieden, dass ich für mich selbst darauf verzichten will. Natürlich ist die Abstinenz in Zeiten der Pandemie schwieriger geworden. Denken Sie etwa an den geplanten digitalen Impfpass, den man per Smartphone immer bei sich tragen würde. Allerdings hat auch der Staat die Verpflichtung, Minderheiten nicht zu benachteiligen, die auf diese Technologien verzichten wollen.
STANDARD: Haben Sie nicht das Gefühl, von einigen sozialen Kontakten isoliert zu sein?
Hofstetter: Überhaupt nicht. Man kann sowieso nur eine bestimmte Anzahl von Kontakten freundschaftlich pflegen. Das ging immer und geht nach wie vor ohne sozialen Medien und Smartphone. Ich schreibe liebend gern Briefe. Und ich muss nicht am Esstisch sitzen und alle drei Sekunden per Whatsapp wissen, was andere gerade machen oder wo sie unterwegs sind. (Jakob Pallinger, 27.3.2021)