Künstliche Intelligenz hat in den vergangenen Jahren massive Fortschritte gemacht. Vor allem bildgebende KIs wie Dall-E, Stable Diffusion oder Midjourney haben dabei zuletzt mit ihren beeindruckenden Ergebnissen für viel Aufsehen gesorgt. Dass man auf Text fokussierte KIs dabei nicht ganz aus dem Auge verlieren sollte, zeigt nun Open AI auf nicht minder beeindruckende Weise.

Chat GPT

Unter dem Namen Chat GPT hat Open AI einen neuen Chatbot vorgestellt, der mit seinen zum Teil verblüffend guten Antworten derzeit für einen regelrechten Hype in Sozialen Medien sorgt. So kann es nicht nur auf Aufforderung plausibel klingende Texte zu allen möglichen Themen – und in einem gewünschten sprachlichen Stil – formulieren, selbst Programmieraufgaben versteht es und kann nicht nur eigenen Code erzeugen, sondern auch fremden Code analysieren – und selbst Sicherheitslücken aufspüren und das konkrete Problem erklären. Auch Gedichte kann die KI auf Wunsch erstellen.

Grundlage

Chat GPT basiert dabei auf einem neuen Sprachmodell, das wiederum auf dem bekannten GPT-3 aufsetzt aber explizit für das Dialogformat optimiert wurde. Damit kann der Chatbot nicht nur Folgefragen richtig beantworten, es kann auch unangemessene Fragen ablehnen oder eigene Fehler eingestehen, wie die Entwickler betonen. Zudem soll es besser gegen Manipulationen geschützt sein, in der Vergangenheit waren solche Modelle oft für Angriffe anfällig, die sie dazu brachten, falsche und hasserfüllte Inhalte zu verbreiten.

Auch wenn die Reaktionen auf Chat GPT nun begeistert sind – manche sehen hier gar schon das Ende für klassische Suchmaschinen wie Google heraufdräuen –, bei Open AI versucht man, die Erwartungen nicht zu groß werden zu lassen. Es handle sich bei um eine frühe Version mit vielen Beschränkungen, streicht etwa Open AI-Chef Sam Altman heraus. Zum Teil liefere Chat GPT weiterhin zwar gut klingende aber unsinnige Antworten.

Zudem darf nicht vergessen werden, dass ein solches Modell immer nur so schlau ist wie das Ausgangsmaterial, mit dem es trainiert wurde. Fehler oder Wissenslücken werden hier also reproduziert. Dem versucht Chat GPT wie andere solche Modelle mit "Reinforcement Learning" entgegenzuwirken, menschliches Feedback soll also die Qualität nach und nach verbessern.

Ausgetrickst

Generell nimmt Chat GPT einige Maßnahmen vor, um die erwähnten Manipulationen zu verhindern. Findigen Nutzern ist es aber bereits gelungen, einen Teil davon auszutricksen. So verweigert Chat GPT etwa von Haus aus Fragen danach, wie man Menschen schaden könnte, mit einem recht simplen Trick – der Vorgabe, dass es sich bloß um eine Inspiration für einen Roman handelt – gab es aber dann doch Tipps, wie ein Mord durchgeführt werden könnte.

Etwas harmloser sind da schon andere Tricks. Wie sich herausstellt, ist es nämlich möglich, innerhalb von Chat GPT ein virtuelles Linux-System laufen zu lassen. Auch sonst haben einige Nutzer bereits Wege gefunden, wie die Beschränkungen des Modells ausgehebelt werden können.

Ausprobieren

Chat GPT befindet sich derzeit in der Preview-Phase und kann kostenlos genutzt werden. Eine Strategie, die durchaus im Interesse der Entwickler ist, immerhin helfen die Nutzer dabei auch direkt den Service zu verbessern. Voraussetzung ist allerdings, dass man sich zuvor einen Account bei Open AI anlegt. (apo, 4.12.2022)