In "Metal Gear Solid" kann man die KI austricksen, indem man sich unter einer Schachtel versteckt. Das funktioniert offenbar auch bei einem KI-System des US-Militärs.
Glaubt man aktuellen Meldungen, wird künstliche Intelligenz die Welt verändern, ja sie ist sogar schon dabei. Allen voran ist Chat GPT, das die Art, wie wir mit Maschinen kommunizieren, Texte verfassen oder im Internet nach Dingen suchen, revolutionieren soll. Dazu kommen Bild-KIs, die sich anschicken, das menschliche Verständnis von Kunst über den Haufen zu werfen.
Nun finden angekündigte Revolutionen einem alten Sprichwort zufolge ja nicht statt, und den Beweis dafür dürften die US-Streitkräfte geliefert haben. Deren KI erkennt einen Menschen nämlich nicht mehr, wenn sich dieser eine Schachtel überstülpt und damit umherwatschelt.
Shashank Joshi, ein Redakteur des "Economist", veröffentlichte kürzlich einen Auszug aus dem neuen Buch "Four Battlegrounds" von Paul Scharre. Darin geht es primär um die Möglichkeiten von künstlicher Intelligenz beim Militär, wie der Branchendienst "Kotaku" berichtet.
"Man konnte sie die ganze Zeit kichern hören"
Darin wird erzählt, wie das Militär Marinesoldaten einsetzte, um seine KI-Erkennungssysteme zu verbessern. Zunächst mussten sie nur um die Maschine herumlungern, während sie Trainingsdaten sammelte. Dann wurden die Rollen getauscht: Die KI-Maschine, laut dem Autor angeblich ein zweibeiniger Roboter, wurde in der Mitte eines Kreisverkehrs platziert, und acht Marinesoldaten hatten alle die gleiche Aufgabe: Wer es schafft, sie zu erreichen, ohne entdeckt zu werden, gewinnt.
Das Ergebnis war für die KI ernüchternd: "Nicht ein Einziger wurde entdeckt", heißt es da. Sie besiegten das KI-System nicht mit herkömmlicher Tarnung, sondern mit cleveren Tricks, die außerhalb des Testregimes des KI-Systems lagen. "Zwei schlugen Purzelbäume über 300 Meter und wurden nicht entdeckt. Zwei versteckten sich unter einem Pappkarton. Man konnte sie die ganze Zeit kichern hören", wird da von einer Person namens Phil berichtet.
Ein anderer tat so, als sei er eine Tanne, benutzte Äste und bewegte sich langsam auf den Roboter zu, wobei er die ganze Zeit lachen musste. Einen Grund für das Totalversagen des Systems nennt der Autor auch: "Das KI-System war darauf trainiert worden, Menschen beim Gehen zu erkennen, nicht aber Menschen, die einen Purzelbaum schlagen, sich in einem Pappkarton verstecken oder als Baum verkleidet sind."
Starke Erinnerung an "Metal Gear Solid"
Das erinnert an die "Metal Gear Solid"-Spielereihe von Entwicklerlegende Hideo Kojima. In diesen Spielen wird viel herumgeschlichen, und eine Taktik des Hauptprotagonisten Snake besteht darin, sich unter Pappkartons zu verstecken. Das ist eine bemerkenswert effektive Tarnung – es sei denn, man stellt sich einem der nicht besonders cleveren KI-Soldaten direkt in den Weg oder bewegt sich, während er einen beobachtet. (red, 23.1.2023)