Die Begeisterung für Chat GPT hat in den letzten Wochen immer mehr Menschen erfasst. Während die meisten Interessentinnen und Interessenten die Text-KI einfach nur ausprobieren wollen, häufen sich Berichte über möglicherweise problematische Anwendungszwecke.

Das System scheint beispielsweise große Beliebtheit bei Schülerinnen und Studierenden zu genießen, die sich Fragen beantworten oder auch ganze Texte formulieren lassen. Laut einer Studie soll die KI sogar wissenschaftliche Gutachter täuschen können. Die Pariser Elite-Universität Sciences Po hat deshalb die Nutzung von Chat GPT verboten. Das Ziel sei, Plagiaten und Betrug vorzubeugen.

"Kaum kritisch reflektiert"

"In all dem aktuellen Hype und Enthusiasmus um Chat GPT dominieren derzeit die Berichte darüber, was alles funktioniert. Darüber, was nicht funktioniert, liest man viel weniger", sagt Oliver Brock von der TU Berlin laut einem STANDARD-Bericht. Für ihn stelle sich demnach die Frage, ob man bei Chat GPT überhaupt von künstlicher Intelligenz sprechen kann. Laut der Informatikerin Ute Schmid von er Otto-Friedrich-Universität Bamberg würden vergleichbare Sprachmodelle außerdem deutlich machen, "dass stupides Auswendiglernen und die Abfrage von derartigem Wissen an Schulen und Unis ein überholtes Konzept sind".

Ruth Stock-Homburg, Professorin an der TU Darmstadt, erklärt gegenüber "Heise" außerdem: "Im Moment ist dieser Hype. Ich habe das Gefühl, dass man dieses System kaum kritisch reflektiert". Im Rahmen eines Forschungsprojekts hat sie die Erfahrung gemacht: "Man kann diese Systeme manipulieren." Laut den von "Heise" zitierten Wissenschaftern würden die von Chat GPT angezeigten Ergebnisse immer wieder antisemitische und rassistische Aussagen enthalten, außerdem seien Quellenangaben häufig falsch. Es könne sogar sein, dass die KI "einfach lügt oder bei sehr speziellen Themen Informationen erfindet", sagte Sven Schultze von der TU Darmstadt.

Unzuverlässig

All das ist mitunter auch der Grund dafür, dass Chat GPT in seiner aktuellen Fassung noch kein "Google-Killer" ist, wie immer wieder mal zu hören ist. Wie DER STANDARD berichtete, sind die abgelieferten Ergebnisse viel zu unzuverlässig, um klassische Suchmaschinen ersetzen zu können. Erschwerend kommt hinzu, dass Chat GPT seine Antworten immer mit voller Überzeugung abliefert. Wahre von erfundenen beziehungsweise falschen Ergebnissen zu unterscheiden ist also kaum möglich.

Trotz der aktuellen Einschränkungen spekulieren viele Userinnen und User, welche Verbesserungen ein Update des dahinterliegenden Sprachmodells mit sich bringen könnte. Derzeit greift Chat GPT auf GPT-3 zurück, die Veröffentlichung von GPT-4 steht bereits an. Die Erwartungen in die neue Version dämpfte aber ausgerechnet der Chef des Chat-GPT-Herstellers Open AI, Sam Altman. "Die Leute betteln geradezu darum, enttäuscht zu werden – und das wird auch passieren", sagte er in einem Interview mit "Strictly VC". Die Behauptung, dass GPT-4 viel mächtiger sei als die aktuelle Version, sei "völliger Bullshit".

Milliardeninvestment

Das ändert allerdings nichts daran, dass die Entwicklung von Systemen wie Chat GPT stetig vorangetrieben wird. So kündigte Microsoft im Jänner ein Milliardeninvestment in den Hersteller Open AI an. Der Softwarekonzern will das Tool in Produkte wie Bing und Office integrieren. Außerdem zwingt der Hype auch Google dazu, mit einer Reihe neuer KI-Produkte herauszurücken. Hinter den Kulissen wurde zwar schon lange an entsprechenden Tools und Systemen gearbeitet, bisher aber nichts davon angekündigt. Nun soll die Präsentation von mehr als 20 Produkten bevorstehen. (red, 30.1.2023)