KI-Systeme mit menschengleicher Intelligenz ("human-competitive intelligence") können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen – so lautet der erste Satz in einem offenen Brief, der am 22. März vom "Future of Life Institute" (FLI) veröffentlicht wurde.

Das FLI ist eine gemeinnützige Organisation, die sich dafür einsetzt, existenzielle Risiken für die Menschheit zu begrenzen – insbesondere jene, die von künstlicher Intelligenz ausgehen. Gegründet wurde es unter anderem vom MIT-Kosmologen Max Tegmark und dem Skype-Mitbegründer Jaan Tallinn. Zu den Beratern zählen neben Elon Musk auch Schauspieler Morgan Freeman und Physiker Stephen Hawking (vor seinem Tod im Jahr 2018).

Große Namen der Tech-Branche sind besorgt

1.123 Unterschriften zählt der offene Brief Stand Mittwochnachmittag. Prominente Namen der Tech-Branche wie Steve Wozniak (Mitbegründer von Apple), Elon Musk (CEO von Space X, Tesla und Twitter, Berater des FLI), Emad Mostaque (Stability AI) oder Max Tegmark (MIT Center for Artificial Intelligence & Fundamental Interactions, Mitbegründer des FLI) haben ihn bereits unterzeichnet.

"Fortgeschrittene KI könnte eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen" – sie sollte "mit entsprechender Sorgfalt" geplant und verwaltet werden, heißt es in dem Schreiben. Doch eine derartige Planung finde derzeit nicht statt. Stattdessen befänden sich KI-Labore in einem Wettlauf um immer neuere und mächtigere Technologien, der völlig außer Kontrolle geraten sei und den nicht einmal mehr ihre Schöpfer nachvollziehen oder zuverlässig kontrollieren könnten.

Erleichterung durch Automatisierung oder Ende der Menschheit?

Dabei wäre es dringend an der Zeit, grundlegende Fragen zu beantworten, so die Forderung in dem Brief: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Wollen wir wirklich unsere Jobs automatisieren – auch jene, die uns erfüllen? Sollen wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Was auf den ersten Blick wie eine Sci-Fi-Dystopie klingt, könnte sich laut manchen Unterzeichnern langfristig zu einem realen Problem manifestieren.

KI-Forscher wünscht sich Fokus auf sichere, begrenzte Systeme

Einer davon ist Connor Leahy, CEO von Conjecture, einem Unternehmen, das sich der KI-Ausrichtungsforschung (AI alignment research) – vereinfacht gesagt der Abstimmung von KI-Systemen auf die Ziele ihrer Entwickler – verschrieben hat. Auf eine Anfrage des STANDARD findet er deutliche Worte: Eine kleine Gruppe von Menschen entwickle derzeit KI-Systeme in einem unverantwortlichen Tempo, mit dem wir nicht mehr Schritt halten könnten. "Wir verstehen diese Systeme nicht, und größere werden noch mächtiger und schwerer zu kontrollieren sein."

Es wäre wichtig, jetzt bei größeren Experimenten innezuhalten und den Fokus auf die Entwicklung "sicherer, begrenzter KI-Systeme" zu richten. Denn viele – einschließlich der Entwickler großer KI-Systeme – fürchten, dass letztendlich sogar die menschliche Existenz auf dem Spiel stehen könnte.

Segen von oben

KI-generierte Bilder waren zuletzt wegen Abbildungen von Papst Franziskus erneut vieldiskutiertes Thema im Netz. Die Kirche reagierte einigermaßen gelassen, aber fand ebenfalls warnende Worte angesichts dieser Entwicklung. Es brauche "fortwährende Bekenntnis der Entwickler, ethisch und verantwortungsbewusst zu handeln", heißt es in der Meldung der katholischen Presseagentur Kathpress.

Der Papst selbst äußerte sich im Kirche-Technik-Gesprächsformat "Minerva Dialogues" und lobte dort vor allem die Bestrebungen internationaler Organisationen, sich für eine Regulierung neuer Technologien im Sinne eines "ganzheitlichen menschlichen Fortschritts" einzusetzen.

Franziskus äußerte allerdings auch Bedenken, denn es werde nicht leicht sein, in diesen Bereichen eine Einigung zu erzielen. Das immense technologische Wachstum sei nicht mit einer "Entwicklung des Menschen in Bezug auf Verantwortung, Werte und Gewissen einhergegangen" – eine Einschätzung, die mittlerweile allerdings auch die eingangs erwähnten großen Namen der Tech-Industrie teilen. (Lisa Haberkorn, 29.3.2023)