Gary Marcus ist ein KI-Experte, der berüchtigt und gefürchtet in den Rängen der Befürworter von künstlicher Intelligenz ist. Seine Internet-Auseinandersetzungen und Wortgefechte mit dem führenden Experten Metas Yann Lecun oder dem Ex-Google-Mitarbeiter Geoffrey Hinton gelten in Kennerkreisen als legendär. Zentral sind bei diesen Gesprächen immer Marcus' Sorgen über die Urheberrechtsverletzungen generativer KI – einen Umstand, den der Forscher in einem Versuch darstellte, in dem er verschiedenste Abbildungen von Hollywood-Produktionen deckungsgleich mit der Bilder-KI Midjourney anfertigte. Jetzt bittet er die Benutzer dieser Technologien, von der neuen Video-KI Sora die Finger zu lassen.
"Ich bin deprimiert über die aktuelle Situation. Als ich mich für dieses Fachgebiet entschied, ging es doch nicht darum, die Einnahmen der Künstler zu den Großkonzernen umzuleiten", erzählte er der Technik-Nachrichtenwebseite "Heise". In einer Zeit, in der bahnbrechende KI-Modelle auf einer fast monatlichen Basis vorgestellt werden, hallen Marcus' Worte besonders laut nach. Google veröffentlichte über seine Tochter Deepmind die nächste Generation seines leistungsstarken LLMs Gemini, und OpenAI beeindruckte mit dem Release seines generativen Videomodells Sora. Sora soll laut OpenAI ein erster Schritt auf dem Weg zu einer Allzwecksimulation unserer physischen Welt sein.
Fehlerhaft und unethisch
Gary Marcus zeigt sich skeptisch gegenüber den Behauptungen: "Wenn man sich [die Videos] eine Sekunde lang ansieht, denkt man: 'Wow, das ist ja erstaunlich.' Wenn man aber genau hinsieht, erkennt man, dass [das Modell] immer noch keinen gesunden Menschenverstand hat." Tiere und Menschen tauchen in den Videos immer wieder einfach ohne Logik auf und verschwinden dann wieder. Manche Bewegungen laufen ohne Erklärung rückwärts ab. Probleme, die auch OpenAI bei der Veröffentlichung angesprochen hat.
Die weitaus schlimmere Problematik sei aber die Frage der ethischen Verwendung von urheberrechtsgeschütztem Material zum Training dieser Modelle. Marcus will eine klare Regelung, in welche Inhalte KI-generierter Content einfließen darf: "Die Videogenerierung sollte nicht auf urheberrechtlich geschütztem Material basieren, das ohne Zustimmung aufgenommen wurde. Und auch nicht in undurchsichtigen Systemen, bei denen wir nicht verstehen, was überhaupt vor sich geht", verwendet werden. "Das sollte nicht legal sein. Das ist eine Frage der Ethik", so der Forscher.
Die Zukunft Soras als zugängliches Alltagsprodukt sieht er skeptisch. Die bisherigen Ergebnisse sehen für ihn eher nach "splicing and morphing" aus als nach echtem physikalischem Denken, das für wahre KI gebraucht würde. Auch sei eine erhöhte Fehlerquote mit größerer Nutzerzahl zu erwarten.
Jetzt sieht Marcus die Softwareuser und auch die Politik in Zugzwang. Es dürften nicht die gleichen Fehler wie bei sozialen Netzwerken gemacht werden: "Was wir [dort] gesehen haben, ist nur eine Vorspeise dessen, was noch passieren wird", sagte Marcus. Untätigkeit und zu wenig persönlicher Aktivismus hätten die derzeitige unethische Situation ausgelöst. (red, 22.2.2024)