Die KI hat Grenzen, auch wenn sie beeindruckende Bilder erschafft
Amazon will den Kunden seiner Cloud-Sparte auf Warnkarten über die Grenzen der dort angebotenen KI-Technologie aufklären. Die sogenannten AI Service Cards – von dem englischen Begriff "artificial intelligence" für künstliche Intelligenz (KI) – sollten ab Mittwoch anlässlich der jährlichen Cloud-Konferenz in Las Vegas veröffentlicht werden, wie die Nachrichtenagentur Reuters von dem US-Konzern erfuhr.
Ziel sei es, Fehler bei dem Einsatz der Systeme zu vermeiden, über deren Funktionsweise zu informieren und Fragen des Datenschutzes anzusprechen. Auf einer Karte, die Reuters vorab einsehen konnte, wurde etwa davor gewarnt, dass es bei der Stimmerkennung unter gewissen Umständen zu "ungerechten Ergebnissen für verschiedene demografische Gruppen" kommen könne.
Expertin fordert Industriestandards für KI
Andere Technologiekonzerne in dem Sektor wie IBM und Alphabet haben zum Teil bereits vor Jahren Einzelheiten darüber veröffentlicht, wie die zugrundeliegende Technologie funktioniert und welche Konsequenzen sich daraus ergeben können. Hintergrund sind unter anderem Sorgen, dass gewisse Gruppen benachteiligt werden könnten. Amazon hatte 2019 eine Studie angefochten, der zufolge die Bilderkennungs-Software Rekognition Schwierigkeiten gehabt habe, das Geschlecht von Personen mit dunklerer Hautfarbe korrekt zu erkennen. Nach der Ermordung des Afroamerikaners George Floyd während eines US-Polizeieinsatzes 2020 verbat Amazon die Verwendung seiner Programme zur Gesichtserkennung durch die Polizei.
Die KI-Sicherheitsexpertin Jessica Newman von der University of California verwies darauf, dass Unternehmen zunehmend derartige Informationen über ihre Systeme veröffentlichten, um ein Zeichen für einen verantwortungsvollen Umgang mit künstlicher Intelligenz zu setzen. Sie forderte allerdings die Schaffung von Industriestandards. "Wir sollten nicht von dem guten Willen der Unternehmen abhängig sein, grundlegende Informationen über Systeme bereitzustellen, die einen enormen Einfluss auf das Leben der Menschen haben können." (Reuters, 1.12.2022)