Anfang Februar hat Google seine Text-KI Bard vorgestellt, nutzen lässt sich diese derzeit von Außenstehenden aber noch nicht. Unklar ist auch, ob Google Bard direkt in der Suche anbieten will – ähnlich wie es Microsoft schon beim neuen Bing macht.

Foto: IMAGO/Jakub Porzycki

Es ist ein Punkt, der bei der aktuellen Begeisterung über künstliche Intelligenz oftmals ausgeblendet wird: Der Betrieb solch komplexer Chatbots wie ChatGPT ist extrem rechenaufwendig. Das ist unerfreulich für die Umwelt, resultiert daraus doch logischerweise auch ein immenser Stromverbrauch. Gleichzeitig führt dies natürlich zu hohen Kosten. Wie hoch, illustriert nun eine aktuelle Untersuchung von Morgan Stanley.

Rechnung

Würde Google die Hälfte der Suchanfragen über den eigenen Chatbot Bard oder ähnliche Systeme abwickeln, würde das zusätzliche Kosten von rund sechs Milliarden Dollar verursachen, rechnen die Experten vor. Das übrigens bereits bei einer durchschnittlichen Länge einer Antwort von 50 Wörtern, fallen diese länger aus, gehen auch die Kosten entsprechend hoch.

Der Grund dafür ist einfach erklärt: Solche großen Sprachmodelle, wie sie hinter ChatGPT, Bard und Co stehen, liefern ihre Antworten nicht mit dem Rückgriff auf irgendeine Form von Intelligenz, sie sagen – sehr vereinfacht gesprochen – immer das wahrscheinlichste nächste Wort voraus, ähnlich wie ein sehr komplexes Autovervollständigungssystem.

Da diese Vorhersage den Großteil des Rechenaufwands darstellt, sind doppelt so lange Antworten grob genommen auch doppelt so rechenintensiv. Würde eine KI-basierte Google-Suche also stattdessen 100 Wörter liefern, kommt Morgan Stanley denn auch auf Zusatzkosten von zwölf Milliarden Dollar, berichtet Reuters.

Alles relativ

Die Analysten liefern in ihrem Bericht übrigens noch eine weitere interessante Zahl: Derzeit verursacht demnach jede Google-Suche bei dem Unternehmen Kosten von 0,2 US-Cent – Geld, das man über Werbung natürlich leicht wieder hereinbekommt. Auch die sechs Milliarden zusätzlichen Kosten sind relativ zu sehen, erwirtschaftet Google-Mutter Alphabet doch jährlich einen Nettogewinn von rund 60 Milliarden US-Dollar.

Dass die Rechnung von Morgan Stanley zumindest in die richtige Richtung geht, bestätigt auch das betroffene Unternehmen selbst. John Hennessy, Vorsitzender des Board of Directors von Alphabet, betonte unlängst in einem Interview, dass eine von einer Text-KI wie Bard gestützte Suche die Kosten für jede Anfrage verzehnfachen würde.

Microsoft hat eine andere Ausgangslage – und hofft

Dieser Effekt gilt natürlich nicht nur für Google. So nimmt auch Microsoft für das neue Bing einen massiv höheren Rechenaufwand in Kauf. Dort ist man jedoch davon überzeugt, dass die neuen Nutzer, die man dadurch gewinnen kann, und vor allem die daraus resultierenden zusätzlichen Werbeeinnahmen dies ausgleichen werden.

Diese Kalkulation ist bei Google als Marktdominator natürlich eine ganz andere. Riskant könnte es für Microsoft natürlich werden, wenn der eigene Plan nicht aufgeht, dann könnte das neue Bing im schlimmsten Fall zu einem Milliardengrab werden.

Optimierungen

Betont sei, dass all das natürlich den Status quo abbildet, es gibt aber noch einiges Optimierungspotenzial. So geht eine andere Analyse von Semianalysis davon aus, dass Google derzeit schlicht nicht genügend Spezialhardware für Maschinenlernaufgaben hat, um überhaupt ein solches Volumen von KI-Suchanfragen effizient abzuwickeln.

Die gute Nachricht für das Unternehmen: Da man hier mit den Tensor Processing Units (TPUs) Chips aus eigener Entwicklung verwendet, sollte sich das auch in absehbarer Zeit hochskalieren lassen – so man die notwendigen Ressourcen bei den Fertigern bekommt.

Kein neuer Trend

Bei alldem darf nicht vergessen werden, dass schon jetzt KI bei Suchmaschinen für vielerlei Aufgaben zum Einsatz kommt – von Zusammenfassungen von Inhalten bis zum Suchranking selbst. Meist ist die Nutzung dabei aber deutlich gezielter als bei so einem allgemeinen Chatbot, womit diese Systeme auch erheblich effizienter arbeiten.

Allgemeine Probleme

Die wahre finanzielle Bedrohung dürften für Google denn auch weniger die Kosten als eine Verschiebung der Suchnutzung sein. Würde ein guter Teil der Anfragen über Text-KIs abgewickelt werden, könnte dies generell schlecht für das Werbegeschäft sein – selbst dann, wenn die Nutzer nicht zu anderen Herstellern abwandern. Immerhin ist derzeit noch komplett unklar, wie sich solche Systeme monetarisieren lassen – und zwar ohne durch Manipulationen der Antworten die Nutzer zu verjagen.

Bedenken

Auch wenn die Kosten fraglos ein großes Thema sind, bei Google scheint man sich in Hinblick auf Text-KIs als Suchtool derzeit primär andere Sorgen zu machen – nämlich dass solche Systeme bisher einfach nicht gut und vor allem nicht zuverlässig genug sind, da sie viel zu viele falsche Antworten produzieren.

Das hat Google selbst bei einer Präsentation von Bard unabsichtlich demonstriert, bei ChatGPT oder dem neuen Bing sieht es aber auch nicht besser aus, wie viele Nutzer in den vergangenen Wochen feststellen konnten. Alphabet-Vorsitzender Hennessy geht denn auch davon aus, dass solche Text-KIs noch ein bis zwei Jahre brauchen werden, bis sie wirklich zuverlässig agieren. (Andreas Proschofsky, 24.2.2023)