Die Aktivistin und Whistleblowerin, Chelsea Manning, äußerte sich laut The Verge bei einer Konferenz auf dem South by Southwest Festival kritisch gegenüber Software-Entwicklern und fordert mehr moralisches Denken bei technischen Innovationen. Dabei verweist sie auf die Gefahren von unkontrollierter Datensammlung und einem falschen Vertrauen in Algorithmen.

Algorithmen mit Vorurteilen

Wenn ein Algorithmus geschrieben wird, so Manning, ist dieser von der Meinung der Programmierer voreingenommen. Er kenne nur die ihm "zugefütterten" Informationen. Das wäre nicht mehr objektiv, sondern diskriminierend und kritisiert hier gleichzeitig Künstlicher Intelligenz.

Als Beispiel nennt sie die Rassendiskriminierung von Facial Recognition. Das Programm wurde hauptsächlich mit weißen Gesichtern trainiert und ist fehlerhaft bei anderen Hauttypen. Auch Predictive Policing (vorausschauende Polizeiarbeit) kritisierte Manning, da hier mit verzerrten Daten gearbeitet wird.

Späte Überraschungen

Außerdem kann sich die ursprüngliche Absicht der Datensammlung ändern. Das sei vor allem bei der freiwilligen Angabe von Daten wie Standortverfolgung bei Handy-Apps oder Online-einkäufen gefährlich. Die Speicherung dieser könnte dem Nutzer später einmal zum Verhängnis werden, weil die Kaufliste plötzlich nicht mehr für weitere Empfehlungen verwendet wwerde.

Ethikkodex für Programmierer

Manning fordert deswegen eine ethische Rahmenbedingung bei der Software-Entwicklung. "Wir als Techniker und Entwickler, vor allem diejenigen, die an Systemen arbeiten, welche Millionen von Leute betreffen – und ja, hier spreche ich den Twitter Algorithmus, den Google Algorithmus und Predictive Policing an – wir müssen uns der Konsequenzen unseres eigenen Tuns bewusst sein."

Außerdem wisse man inzwischen, welche Ausmaße digitale Überwachung einnimmt, so Manning. Ihrer Meinung geschieht nur deswegen nichts, weil jeder insgeheim hoffe, dass jemand anderes etwas unternimmt. (red, 14.03.2018)