Die Probleme generativer KI sind vielfältiger. Zum Beispiel kommt es immer wieder vor, dass einem ChatGPT und Co offensichtliche Falschinformationen als Fakten präsentieren und sich eine eigene Realität zusammenreimen. Aber nicht nur das. Auch Betrüger und Cyberkriminelle haben das Potenzial der Technologien für sich entdeckt. Immer häufiger werden KI-Chatbots zur Erstellung von Schadsoftware, aber auch Fake-Bewertungen in Onlineshops verwendet.
Das ist auch dem Facebook-Konzern Meta aufgefallen. In einem am Mittwoch veröffentlichten Sicherheitsbericht hat das Unternehmen vor einer rasanten Zunahme von als KI-Tools getarnter Schadsoftware. "Als Branche haben wir das schon bei anderen Themen gesehen, die zu ihrer Zeit populär waren. Zum Beispiel Kryptobetrug, der durch das große Interesse an digitalen Währungen angeheizt wurde", sagt der Meta-Sicherheitschef Guy Rosen gegenüber "Engadget". Aus Sicht von Cyberkriminellen sei "ChatGPT also die neue Kryptowährung".
Getarnt als Browsererweiterung
Konkret hebt Meta in seinem Bericht hervor, dass die eigenen Sicherheitsforscher allein dieses Jahr fast zehn neue Schadsoftware-Stämme entdeckt hätten. Darunter seien auch solche gewesen, die sich hinter ChatGPT-Browsererweiterungen, Produktivitäts-Tools, Smartphone-Apps oder Werbeanzeigen versteckt hätten – stets mit dem Ziel, die Daten der Nutzerinnen und Nutzer abzusaugen. In zwei Beispielen zeigt der Social-Media-Konzern, wie entsprechende Fake-Erweiterungen für Googles Chrome-Browser aussehen. Diese haben zum Beispiel klingende Namen wie "AI ChatGPT" oder "ChatGPT For Chrome – ChatGPT Assistant" und eine Bewertung von 4,5 von fünf Sternen.
Besonders häufig haben es Betrüger auf Firmenaccounts abgesehen, schreibt Meta weiter. Seit März wurden deshalb "mehr als 1.000 böswillige Links blockiert und an unsere Branchenkollegen weitergegeben sowie eine Reihe von Browsererweiterungen und mobilen Apps an unsere Partnerunternehmen gemeldet", heißt es im Bericht.
Dabei würden Angreifer meistens die privaten Accounts von jenen Mitarbeiterinnen und Mitarbeitern attackieren, die Zugriff auf oder eine Verbindung mit Facebook-Firmenseiten haben. "Eine der Kampagnen, die wir vor kurzem gestoppt haben, nutzte beispielsweise das Interesse der Menschen an ChatGPT von Open AI, um sie zur Installation von Malware zu verleiten", schreibt Meta. Bemerkenswert sei außerdem gewesen, wie schnell die Akteure auf die Entdeckung von Schadsoftware reagieren. Sie würden rasch auf andere Themen, zum Beispiel Google Bard, Tiktok-Marketingtools oder raubkopierte Software und Filme umschwenken.
Schutz für Firmenkonten
Damit gerade Firmen besser geschützt sind, wird das Unternehmen noch heuer sogenannte "Meta Work"-Konten einführen. Diese werden es ermöglichen, Firmenseiten zu verwalten, ohne einen privaten Account zu benötigen. Bisher müssen Social-Media-Manager das Unternehmenskonto noch mit ihrem privaten Facebook-Account verbinden. "Dies trägt dazu bei, Geschäftskonten sicherer zu machen, wenn Angreifer mit der Kompromittierung eines persönlichen Kontos beginnen", verspricht Meta. Darüber hinaus werden Firmen künftig Unterstützung bei der Entfernung von Schadsoftware erhalten. Ein neues Support-Tool soll User "Schritt für Schritt durch die Identifizierung und Entfernung von Malware" führen.
Der Hype um KI-Chatbots sorgt aber auch abseits von Facebook für Probleme. Ende März warnte unter anderem Europol, dass die Software für Betrug, die Erstellung von Desinformation und Cybercrime verwendet wird. Ende April kamen dann Berichte, dass Amazon mit einer Vielzahl an Fake-Bewertungen zu kämpfen hat, die offensichtlich mit ChatGPT geschrieben wurden. (mick, 4.5.2023)