Ki-fehler mit folgen: eine frau fünf monate ins gefängnis – weil eine maschine sie beschuldigte
Der Skandal ist brisant: Eine US-Amerikanerin sitzt nach einer Fehlentscheidung einer Gesichtserkennungssoftware fünf Monate im Gefängnis. Die Geschichte ist nicht einzigartig – sie ist ein Symptom eines wachsenden Problems mit künstlicher Intelligenz.
Falsche identität, falsche justiz
Angela Lipps aus Tennessee wurde von der Polizei wegen vier Bankbetrügereien in North Dakota verhaftet. Die Grundlage: Eine Gesichtserkennung, die sie fälschlicherweise als Täterin identifizierte. Obwohl Lipps beteuert, nie in North Dakota gewesen zu sein, wurde sie ohne Kaution inhaftiert. Erst nach fünf Monaten und der Intervention eines Rechtsanwalts konnte ihre Unschuld bewiesen werden – mit einfachen Kontoauszügen, die ihre Anwesenheit in Tennessee belegten.
Die Polizei hatte die Überwachungskameras von Banken mithilfe eines Gesichtserkennungsprogramms ausgewertet. Die Software ergab eine Übereinstimmung mit Lipps’ Gesicht. Ein Ermittler verglich daraufhin ihr Führerscheinbild und Social-Media-Profile mit den Überwachungsvideos. Die Schlussfolgerung: Lipps sei die Täterin, basierend auf Gesichtszügen, Statur und Haarfarbe. Die KI basierte auf einem Fehler – und die Konsequenz war eine persönliche Katastrophe.
Lipps verlor ihren Job, ihre Wohnung und ihren Hund. Die Entschuldigung der Behörden blieb aus. Sie ist nicht allein: In den letzten Jahren gab es bereits acht vergleichbare Fälle in den USA, in denen Menschen aufgrund von KI-Fehlern fälschlicherweise verurteilt wurden. Die Technologie ist noch nicht ausgereift genug, um menschliche Entscheidungen zu ersetzen.
Das Problem liegt nicht darin, dass KI Fehler macht – das ist ja selbstverständlich. Die Gefahr besteht darin, dass Menschen die Ergebnisse blind akzeptieren, weil sie der Technologie vertrauen. Das betrifft nicht nur solche spektakulären Fälle, sondern auch alltägliche Anwendungen wie Bankberechnungen, Code-Generierung oder Bewerbungen. Die Folgen solcher Fehler können verheerend sein.
Die Geschichte von Angela Lipps ist ein Weckruf: Wir müssen unsere Beziehung zu KI kritisch hinterfragen. Die Technologie sollte uns unterstützen, aber niemals Entscheidungen für uns treffen. Sonst riskieren wir, dass die Justiz von Algorithmen beherrscht wird – mit Menschen als Leidtragenden.
Die fünf Monate im Gefängnis haben ihr Leben zerstört. Und das alles wegen eines Fehlers, den eine Maschine begangen hat. Eine bittere Ironie.