Fehlalarm: Schüler wird bei Doritos-Bag fälschlicherweise als bewaffnet angesehen
Ein fall von fehlalarm
In vielen Schulen in den USA wird künstliche Intelligenz (KI) verwendet, um Waffen zu erkennen. Obwohl bekannt ist, dass KI zu Fehlern und Halluzinationen neigt, wird sie in Schulen eingesetzt, die Minderjährige, Pistolen und Polizei betreffen. In der Kenwood High School in Baltimore, USA, wurde ein 16-jähriger Schüler von acht Polizisten angegriffen, die ihn mit Pistolen bedrohten, zu Boden warfen und ihm Handschellen anlegten. Der Grund: Die KI hatte eine Waffe in seiner Tasche erkannt. Tatsächlich führte er nur eine Tüte Doritos mit sich.
Die tragödie hinter der geschichte
Die Geschichte könnte komisch wirken, wäre da nicht der dramatische Hintergrund. Die Angst vor Schüssen in Schulen und die Traumatisierung eines Schülers, Taki Allen, der nun nicht mehr im Hof auf den Bus wartet, sind Realität. Taki Allen, ein 16-jähriger Schüler, sitzt jetzt drinnen und wartet auf den Bus, weil er zu traumatisiert ist, um nach dem Training nach draußen zu gehen.
Kann eine pistole mit einer doritos-tüte verwechselt werden?
Die Kenwood High School nutzt ein KI-gestütztes Waffenerkennungssystem von Omnilert, das in vielen Schulen in den USA verwendet wird. Die KI analysiert Bilder aus den Überwachungskameras im Schulgelände. Wenn sie eine Waffe erkennt, wird das Bild an ein menschliches Team weitergeleitet, das es überprüft. Wenn das Team sicher ist, dass es sich um eine Waffe handelt, wird die Polizei alarmiert. In diesem Fall scheiterte die KI, aber die Polizei folgte nur ihrer Pflicht.
Der vorfall
Taki Allen, der nach dem Rugby-Training auf den Bus wartete, aß eine Tüte Doritos und steckte sie in seine Tasche. Als die KI die Tüte als Waffe erkannte, erschien ein Team von acht Polizisten und nahm ihn fest. Sie fanden nur die zerknüllte Tüte in seiner Tasche.
Die reaktionen
Taki Allen ist enttäuscht, weil die Schule sich nicht persönlich bei ihm entschuldigt hat, sondern nur eine Entschuldigung an seine Eltern schickte. Die Schulleitung benötigte drei Tage, um mit ihm zu sprechen. Er fühlt sich nun nicht mehr sicher und bleibt drinnen, bis der Bus kommt.
Fazit
Dieser Vorfall zeigt, wie wichtig es ist, dass menschliche Überprüfung und KI-Systeme sorgfältig zusammenarbeiten. Eine einfache Tüte Doritos wurde fälschlicherweise als Waffe erkannt, was zu einer traumatischen Erfahrung für einen Schüler führte.
Zusammenfassung
Die Geschichte von Taki Allen zeigt die potenziellen Gefahren und Fehlalarme, die durch die Verwendung von KI in Schulen entstehen können. Es ist wichtig, dass solche Systeme sorgfältig überwacht und überprüft werden, um ähnliche Vorfälle in Zukunft zu vermeiden.