Neue bedrohung für die ki-sicherheit: enthüllungen von microsoft

Envenenung von empfehlungen durch künstliche intelligenz

Die Nutzung von künstlicher Intelligenz (KI) in Unternehmen bringt neue Herausforderungen für die Cyber-Sicherheit. Laut Microsoft kann die Enthüllung von 250 manipulierten Dokumenten ein beliebtes Chatbot wie ChatGPT oder Gemini manipulieren. Eine andere Studie zeigt, dass die Sicherheit einer KI in Sekunden unterlaufen werden kann, wenn es um eine Angriffskompetenz geht, die nicht sehr hoch ist.

Das konzept des envenenens von ki-empfehlungen

Viele Unternehmen integrieren KI-gestützte Funktionen in ihre digitale Angebote. Wenn man z.B. auf den Link des Chatbots klickt, kann man Anweisungen über URLs an die KI senden, die persistent in ihrem Gedächtnis gespeichert werden. Dadurch können Unternehmen Anweisungen geben, wie die KI ihre Empfehlungen ausgibt, was zu einem Bias in den Antworten führen kann.

Enthüllungen von microsoft

Microsoft hat 50 verschiedene Prompts aus 31 Unternehmen aus 14 Branchen gefunden, darunter auch Gesundheit, Finanzen und Sicherheit. Die Firma betont, dass diese Technik