In der Technologiebranche stand zuletzt künstliche Intelligenz immer wieder in der Kritik, bestimmte Nutzergruppen aufgrund ihrer Algorithmen diskriminierend zu behandeln. Mit einer in New York eingereichten Sammelklage trifft ein ähnlicher Vorwurf nun ein Produkt von Apple. Der Grund: Die Blutsauerstoffmessung der Apple Watch sei "rassistisch voreingenommen".

Die Klage, die am 24. Dezember im Southern District of New York eingereicht worden ist, beruft sich dabei auf den Hauptkläger namens Alex Morales, der sich im Zeitraum zwischen 2020 und 2021 eine Apple Watch gekauft habe. Wie "AppleInsider" berichtet, habe er das unter der Annahme getan, dass die Smartwatch "den Blutsauerstoffgehalt messe und sie das ohne Berücksichtigung der Hautfarbe durchführen würde".

Das Problem mit dem SpO2-Sensor

In weiterer Folge führt die Klage eine Studie an, wonach SpO2-Sensoren, die zur Ermittlung der Werte notwendig und auch in der Apple Watch verbaut sind, bei Nutzern dunklerer Hautfarbe schon seit Jahrzehnten weniger genaue Angaben liefern würden. Zudem sollen Wissenschafter während der Corona-Pandemie anhand von Patientenakten "die rassistische Voreingenommenheit der Pulsoxymetrie" erneut nachgewiesen haben.

Konkret vorgeworfen wird Apple in der Klage irreführende Werbung und daraus resultierende Betrugsabsicht. Der "Premium-Preis" der Apple-Uhren würde nämlich auf Alleinstellungsmerkmalen wie eben dem diskriminierenden Blutsauerstoff-Tool beruhen. Konkrete Daten betroffener Modelle der Apple Watch werden dabei allerdings nicht als Beweis herangezogen, man stütze sich auf die generelle Annahme, dass SpO2-Sensoren Menschen mit dunklerer Hautfarbe diskriminieren würden.

Wenn man sich ansieht, wie SpO2-Sensoren funktionieren, ist der Vorwurf, dass Ergebnisse verfälscht werden können, nicht grundsätzlich falsch. Der Sensor schickt mit einer Reihe von roten, grünen und infraroten LEDs Lichtstrahlen durch die Haut. Je nach Sauerstoffsättigung im Blut werden dadurch andere Frequenzen reflektiert, aufgrund deren geschätzt werden kann, wie viel Sauerstoff sich im Blut befindet.

Die Hautfarbe des Handgelenks kann dabei die Wellenlängen des Lichts beeinflussen – und somit auch die Ergebnisse dementsprechend verfälschen. Wenn diese Abweichungen allerdings Berücksichtigung in den Algorithmen zur Berechnung finden, kann diese Systemschwäche ohne weiteres ausgeglichen werden und bei allen Nutzerinnen und Nutzern zu präziseren Resultaten führen.

Apple unter Zugzwang

Ob und welche Algorithmen Apple in diesem konkreten Zusammenhang verwendet, ist noch nicht geklärt. Das Unternehmen betont auf der Webseite zur Apple Watch aber auch, "dass der in der App gemessene Blutsauerstoffwert nicht für medizinische Zwecke bestimmt ist". Die Werte dienen lediglich für eine "allgemeine Fitness- und Wellness-Nutzung".

Ein offizielles Statement aus Cupertino gibt es bis zum jetzigen Zeitpunkt noch nicht zur Klage. Ignorieren kann sie Apple jedoch nicht: Das Unternehmen hat ab dem Zeitpunkt, an dem die Sammelklage eingereicht worden ist, 21 Tage Zeit, darauf zu reagieren. Eine Reaktion von Apple ist also auch zeitlich schon absehbar. (bbr, 29.12.2022)